ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Федеральная торговая комиссия (FTC) США накануне направила Anthropic и OpenAI запрос о предоставлении документов в рамках расследования на предмет возможных нарушений законодательства в области защиты прав потребителей.

Данное расследование — один из шагов властей США, призванных продемонстрировать жёсткий подход к разработчикам систем искусственного интеллекта. Оно стало реакцией на ряд инцидентов, в ходе которых ИИ-агенты под управлением невыпущенных на тот момент моделей в ходе тестирования совершали взломы сайтов, обманывали или вели себя агрессивно. Ведомство направило запросы в рамках проводимого в гражданском порядке расследования — оно позволяет властям собирать доказательства и проводить проверку перед возможным судебным разбирательством.

Запросы объёмом более 50 страниц каждый содержат требования предоставить сведения об инцидентах в области безопасности и о мерах по её обеспечению. Регулятор также запросил маркетинговые материалы и документы с подробным описанием политики компаний в отношении конфиденциальных данных. Впоследствии аналогичные запросы будут направлены и другим работающим в сфере ИИ компаниям. «По мере совершенствования наших моделей и того, как они всё больше помогают людям в повседневной жизни, безопасность остаётся наши приоритетом. Мы будем конструктивно взаимодействовать с FTC», — заявили в OpenAI.

Ведомство намерено вызвать руководство ведущих ИИ-лабораторий для дачи показаний об их продуктах. Оно обладает полномочиями расследовать действия, которые могут нанести вред потребителям и квалифицироваться как недобросовестные или вводящие в заблуждение. Это могут быть самые разные нарушения — от порядка взимания платы за услуги до случаев, когда компании, вероятно, сообщали потребителям недостоверную информацию. Председатель комиссии Эндрю Фергюсон (Andrew Ferguson) подчеркнул, что ИИ-системы не должны выходить на рынок, если они небезопасны.

OpenAI приходится отвечать за свои продукты в суде. Накануне власти восьми штатов подали к ней иски, обвинив компанию в том, что она ввела пользователей, включая несовершеннолетних, в заблуждение по поводу безопасности ChatGPT. Администрация президента США также ужесточила свою позицию. Ранее созданные по инициативе Дональда Трампа (Donald Trump) «Силы сверхинтеллекта» отреагировали на «мошеннический» характер использования правительственных систем ИИ-агентами Anthropic. Было введено общеотраслевое требование: при возникновении подобных инцидентов компании обязали немедленно уведомлять о них и принимать меры по устранению последствий.