Сегодня 10 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Hugging Face потребовала «радикальной прозрачности» после беспрецедентной атаки взбесившегося агента OpenAI

Не так давно OpenAI признала, что одна из ИИ-моделей компании взломала ИИ-платформу Hugging Face. На это отреагировал гендиректор Hugging Face Клем Деланг (Clem Delangue), заявивший в соцсети X, что летит в Сан-Франциско, чтобы «поговорить с этим самостоятельным агентом». Позднее он рассказал, о чём шла речь во время встречи с представителями OpenAI.

 Источник изображения: AI

Источник изображения: AI

Деланг сообщил, что призвал OpenAI к «радикальной прозрачности» и попросил «опубликовать логи этого самостоятельного агента, чтобы всё исследовательское сообщество могло изучить, что именно произошло». Он также потребовал предоставить «больше возможностей для защитников», призвав OpenAI выделить вычислительные мощности на сумму в $100 млн, «чтобы помочь сообществу Hugging Face создать мощные решения для киберзащиты с использованием лучших открытых и закрытых моделей». «Первая автономная кибератака с использованием агента — это беспрецедентное событие. Оно заслуживает беспрецедентного ответа!», — уверен Деланг.

Несмотря на автономный характер атаки, эксперты по кибербезопасности предполагают, что её можно списать на человеческий фактор. Речь об очевидной неспособности OpenAI правильно настроить тестовую среду, которая должна была быть полностью изолированной.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Гонка ИИ превратилась в ценовую войну — OpenAI догоняет Anthropic 2 мин.
Anthropic и OpenAI готовятся к первой крупной катастрофе по вине ИИ 4 ч.
Белый дом отныне будет требовать от разработчиков ИИ обязательного предоставления отчётов об инцидентах с моделями 7 ч.
Новая статья: RetroSpace — осторожно, уборщик галактику спасает. Рецензия 14 ч.
Девять из десяти клиентов VMware задумались об уходе из-за высоких цен 15 ч.
Apple Hills Digital: предобученные модели и интеграция с данными для заказчиков важнее стоимости ИИ-нагрузки 17 ч.
OpenAI уволила трёх исследователей безопасности ИИ — они опасаются, что компания заставит сотрудников молчать о рисках 18 ч.
Пошаговая ролевая игра Shadow of the Road не выйдет за неделю до GTA VI — Owlcat объявила новую дату релиза 18 ч.
Китайские ИИ-компании скрывают, насколько опасны их модели — публичных тестов почти нет 18 ч.
Продюсер Konami рассказал о планах на продолжение Silent Hill 22 ч.