Гендиректор OpenAI Сэм Альтман (Sam Altman) выразил опасения по поводу того, что контроль над искусственным интеллектом окажется в руках небольшого числа компаний и людей. В таком случае потребители не смогут влиять на то, как эта технология меняет окружающий мир, пишет Business Insider.
Источник изображения: Growtika/unsplash.com
«Правильный подход заключается в том, чтобы сказать, что мы хотим, чтобы люди в значительной степени контролировали будущее, — сказал Альтман. — Общество и модели будут развиваться совместно».
Альтман добавил, что его также беспокоит возможность выхода ИИ из-под контроля людей. По его словам, страх перед этим может привести к реализации первого опасения. «Многие люди так нервничают из-за масштаба этих рисков, что поддаются этому страху и чувствуют необходимость защитить мир, — сказал он. — Как будто, знаете ли, “мы должны пожертвовать большой свободой ради безопасности”».
Как полагает Business Insider, Альтман, скорее всего, имел в виду гендиректора Anthropic Дарио Амодеи (Dario Amodei), который предупреждает об опасностях, связанных с быстрым развитием ИИ. Амодеи выступает за более активное государственное регулирование ИИ, что, по мнению Альтмана, может привести к ограничению свободы ради повышения безопасности.
Anthropic — одна из немногих крупных компаний в сфере ИИ, не подписавших в прошлом месяце письмо в поддержку моделей с открытыми весами, которые позволяют разработчикам обмениваться ими, загружать, модифицировать и развёртывать их на собственной инфраструктуре.
Ряд американских компаний, включая Nvidia, Meta✴ и Microsoft, утверждают, что США необходимо способствовать более широкому использованию моделей с открытыми весами, как это происходит в Китае, иначе страна рискует потерять лидерство в гонке ИИ.