MWC 2018
2018
Computex
IFA 2018
В ходе тестирования последняя модель искусственного интеллекта Kimi K3 от китайской Moonshot смогла выйти за пределы выделенного окружения, заявили исследователи. Инцидент в очередной раз поднял вопросы о том, насколько разработчики ИИ в состоянии контролировать собственные разработки.
Источник изображения: kimi.com
ИИ-модель Moonshot Kimi K3 вышла из испытательной «песочницы» в ходе тестирования, которое проводилось Институтом безопасности ИИ (AISI) при правительстве Великобритании, сообщает Bloomberg со ссылкой на информацию от американской исследовательской компании Frontier Security. Китайская модель не пыталась взламывать сайты других компаний, как в эпизодах с системами других разработчиков, но тест показал, что ей не хватает средств киберзащиты.
«Находящаяся в открытом доступе модель Kimi не имеет таких защитных механизмов. Это значит, что она хорошо подходит для взлома», — предупредил глава Frontier Security Ярон Сингер (Yaron Singer). Комментариев от Moonshot и AISI не последовало. Ранее о взломах, которые осуществили их собственные модели ИИ, сообщили Anthropic, OpenAI и Meta✴ Platforms — системы также прорывались за пределы тестовых окружений. Это встревожило исследователей и политиков, которые призвали к ужесточению проверок безопасности и созданию более защищённых тестовых сред. В ряде случаев ИИ-модели взламывали сторонние ресурсы, в том числе платформу Hugging Face.
Бесплатная Kimi K3 поразила мир своей способностью работать на уровне передовых моделей OpenAI и Anthropic. Это стало неожиданным прорывом для китайского стартапа, который долго оставался в тени местного конкурента DeepSeek. Moonshot опубликовала веса модели, что позволяет всем желающим её свободно загружать, настраивать и запускать на собственных ресурсах.
Источник:
