Британское Управление комиссара по вопросам защиты информации (ICO) заявило, что внимательно следит за развитием событий, связанных с OpenAI и Anthropic, после произошедших недавно хакерских атак, произведённых агентами искусственного интеллекта двух компаний.
Источник изображения: chris robert / unsplash.com
Отрасль ИИ оказалась под пристальным вниманием властей США — администрация президента Дональда Трампа (Donald Trump) завершила разработку добровольных тестов на кибербезопасность; в Евросоюзе власти региона также вступили в переговоры с двумя лидерами отрасли.
«Управление комиссара по вопросам защиты информации Великобритании регулярно проводит проактивные надзорные мероприятия в отношении разработчиков ИИ, в том числе OpenAI и Anthropic. Нам известно о затронувших отрасль недавних хакерских атаках, и мы внимательно следим за развитием событий», — заявили в ведомстве.
Ранее OpenAI признала, что две её модели и ИИ-агенты вышли из-под контроля и взломали ресурсы платформы Hugging Face; впоследствии Anthropic сообщила, что некоторые её модели Claude в ходе тестов на кибербезопасность также взломали системы трёх компаний. Британские власти намерены рассмотреть вопрос о регулировании передовых моделей ИИ, если действующая добровольная система их тестирования перед развёртыванием перестанет обеспечивать достаточный уровень защиты населения.