MWC 2018
2018
Computex
IFA 2018
Лидеры ИИ-индустрии выражают обеспокоенность тем, что антимонопольное законодательство может стать помехой скоординированному замедлению развития ИИ в целях обеспечения безопасности. Как сообщает Wired со ссылкой на источники, OpenAI недавно обратилась к членам Конгресса США с просьбой дать разъяснение относительно того, будет ли законным организовывать общеотраслевое замедление развития ИИ.
Источник изображения: Growtika/unsplash.com
О необходимости такого замедления недавно заявил Якуб Пачоцки (Jakub Pachocki), главный научный сотрудник OpenAI. По его словам, это позволит выстроить надёжные механизмы контроля над самообучающимися ИИ-системами. Однако, по мнению экспертов, предлагаемая координация действий для замедления будущего развития ИИ может противоречить законодательству США, в частности, Антимонопольному закону Шермана (Sherman Antitrust Act).
В июле двухпартийная группа конгрессменов представила законопроект «О сотрудничестве в борьбе с враждебными угрозами и рисками безопасности», который позволит защитить координацию ИИ-компаний в вопросе замедления от антимонопольных претензий. На данный момент документ ожидает рассмотрения в юридическом комитете.
Между тем эксперты считают, что ссылки на антимонопольные риски — лишь удобное прикрытие для того, чтобы избежать обсуждения реальных причин, по которым разработчики ИИ избегают сотрудничества.
На самом деле между компаниями идёт ожесточённая борьба за то, чтобы захватить часть зарождающегося рынка передовых моделей. Также существуют опасения, что опережение Китаем в области ИИ будет иметь значительные последствия для национальной безопасности. И, что самое важное, у разработчиков ИИ имеются совершенно разные мнения о наилучшем способе разработки безопасного ИИ, и поэтому они могут неохотно сотрудничать друг с другом в этом вопросе, пишет Wired.
«Первым шагом для лидеров отрасли OpenAI и Anthropic является прекращение вражды и совместная работа над новым предложением, — сообщил в соцсети X Джон Шульман (John Schulman), соучредитель OpenAI, — Они ссылаются на антимонопольное законодательство, но это ложь — антимонопольное законодательство запрещает определённые соглашения, но не совместную разработку предложения».
Этим летом резко обострились дебаты по поводу рисков, связанных с развернувшейся гонкой между ИИ-компаниями за создание и выпуск всё более мощных моделей. Масла в огонь добавило заявление бывшего исследователя Anthropic и OpenAI Джейкоба Коксона (Jacob Coxon) о том, что разработчики искусственного интеллекта подвергают человечество риску.
К тому же, ряд инцидентов с безопасностью, в том числе хакерская атака агентов OpenAI на Hugging Face, показали, что отраслевые средства защиты не успевают за ростом возможностей моделей.
Источник:
