OpenAI, Anthropic и Google DeepMind уже давно тайно обсуждают, как не дать ИИ уничтожить человечество

OpenAI, Anthropic и Google DeepMind продолжают переговоры по вопросам безопасности искусственного интеллекта. Об этом сообщил журналистам Крис Лейн (Chris Lehane), глава глобальной политики OpenAI, отметив, что компании координируют усилия для снижения катастрофических рисков, связанных с развитием передовых ИИ-моделей.

Инициатива стала ответом на эссе генерального директора Anthropic Дарио Амодеи (Dario Amodei), опубликованное в минувшую субботу. В тексте он призвал индустрию замедлить темпы разработки больших языковых моделей и объединиться ради предотвращения непредсказуемых последствий. Идею поддержали Сэм Альтман (Sam Altman) из OpenAI, Демис Хассабис (Demis Hassabis) из Google и Илон Маск (Elon Musk). Альтман, по сообщению TechCrunch, также заявил о готовности внедрить независимых аудиторов для мониторинга безопасности внутри своей компании.

Несмотря на опасения экспертов относительно возможного нарушения антимонопольного законодательства при координации действий конкурентов, участники переговоров считают такие риски преувеличенными. Амодеи предлагал получить от правительства специальное разрешение для подобных обсуждений, однако Лейн заверил, что компаниям не требуется разрешений для диалога о стандартах безопасности.

Ранее СМИ сообщали о планах OpenAI, Anthropic и Google DeepMind создать отраслевой орган по стандартизации без участия государства, а Хассабис ещё в июле призывал США учредить регулятора с полномочиями проверять наиболее мощные модели и координировать приостановку разработок в случае выявления угроз. Однако текущая администрация во главе с президентом Дональдом Трампом (Donald Trump) отвергла эти инициативы, считая разговоры об экзистенциальных рисках попыткой затормозить прогресс и уступить лидерство Китаю.

Ранее Лихейн заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act (H.R.9925), который устанавливает в США федеральный надзор за разработкой и внедрением передовых моделей искусственного интеллекта и обязывает крупнейшие ИИ-лаборатории допускать независимые организации для проверки безопасности технологии.