MWC 2018
2018
Computex
IFA 2018
Группа некоммерческих организаций подала в четверг в Высший суд штата Калифорния (округ Сан-Франциско) иск против Anthropic, Google, Meta✴ Platforms, OpenAI и SpaceXSI с требованием запретить им разработку продвинутых ИИ-моделей в связи с опасениями, что данная технология может представлять угрозу для человечества.
Источник изображения: Wesley Tingey / unsplash.com
Некоммерческие организации, занимающиеся вопросами ответственности в сфере технологий, в числе которых Irreplaceable Education Fund, Public Citizen, Heat Initiative и The Alliance for Secure AI, отметили, что даже руководители этих компаний предупреждали: передовые системы ИИ несут в себе непосредственную и катастрофическую угрозу для человечества. По мнению истцов, законы штата Калифорния, направленные против недобросовестной деловой практики, дают суду основания для вынесения постановления, которое запретило бы компаниям продолжать разработку таких продуктов, как ChatGPT, Gemini и Claude.
В частности, истцы ссылаются на «Закон штата Калифорния о недобросовестной конкуренции» (California’s Unfair Competition Law), оспаривая действия компаний, которые, по их утверждению, создают угрозу для здоровья, безопасности и собственности граждан.
В иске описываются случаи, когда уже существующие, менее мощные ИИ-системы обходили встроенные механизмы защиты, несанкционированно проникали во внешние компьютерные сети и совершали вредоносные действия, не предусмотренные их разработчиками.
«Ни одной другой отрасли не позволено считать разработку небезопасных продуктов — тем более таких, которые могут погубить всех нас, — чем-то неизбежным, — говорится в иске. — И ни одной отрасли не предоставлено право самостоятельно регулировать создание столь опасных продуктов».
«Мы должны приостановить разработку передовых систем ИИ до тех пор, пока технология не окажется под контролем, а у американского народа не появится право голоса и реальное участие в определении её будущего — вместо того чтобы оставлять всё на усмотрение кучки миллиардеров, возглавляющих крупнейшие технологические корпорации», — заявил Фил Аронеану (Phil Aroneanu), основатель и исполнительный директор Irreplaceable Education Fund.
Поскольку администрация Дональда Трампа (Donald Trump) воздерживается от масштабного регулирования сферы ИИ, считая, что это станет помехой США в конкурентной борьбе с Китаем, власти отдельных штатов и частные лица пытаются использовать судебные иски, чтобы принудить компании к изменениям в сфере ИИ.
Например, в июне генеральный прокурор штата Флорида Джеймс Утмайер (James Uthmeier) подал иск против OpenAI, в котором утверждается, что компания ввела общественность в заблуждение относительно безопасности своей платформы ChatGPT. Согласно его заявлению, сервис нанес вред детям, предоставляя информацию потенциальным школьным стрелкам, давая советы по причинению себе вреда и вызывая зависимость у юных пользователей. А в сентябре представители штата Флорида обратились к судье с ходатайством запретить OpenAI разработку новых ИИ-моделей без внешнего контроля. Решение по этому делу пока не принято.
Источники:
