Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Системы OpenAI взломали при помощи ИИ-моделей Anthropic

Специалисты в области кибербезопасности произвели взлом систем OpenAI, воспользовавшись программными решениями её главного конкурента — компании Anthropic. В результате удалось обнаружить уязвимости в защите разработчика ChatGPT, чьи продукты и сами вызывают вопросы, связанные с кибербезопасностью.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Небольшая группа экспертов по кибербезопасности получила доступ к учётной записи сотрудника OpenAI в ChatGPT, что дало им возможность просмотреть конфиденциальную информацию и предложить изменения в коде продуктов. Исследователи использовали средство Anthropic, разработанное специально для специалистов в этой области — их работа оплачивалась в рамках программы по поиску уязвимостей, призванной выявлять ошибки до того, как ими смогут воспользоваться злоумышленники. Тот факт, что экспертам удалось быстро взломать систему одной из ведущих мировых лабораторий искусственного интеллекта вызывает опасения по поводу безопасности ИИ.

Трое исследователей из небольшой компании Hacktron AI получили от OpenAI вознаграждение в размере $6500 за сделанное открытие. Они воспользовались уязвимостью в настройках форума сообщества OpenAI, чтобы получить доступ к внутренним учётным данным, а затем и к аккаунту одного из сотрудников OpenAI в ChatGPT — он имел доступ к внутреннему коду через платформу GitHub. «Благодарим исследователей за то, что они связались с нами и поделились своими выводами», — заявили в OpenAI и добавили, что уязвимости уже устранены.

Одновременно Anthropic сообщила, что резко нарастила использование ИИ при разработке новых моделей — Claude оказывает помощь при реализации 26 % проектов в области исследований и разработки; только в марте этот показатель составлял 1 %. В компании решили обнародовать эти данные, чтобы помочь общественности «осознать, насколько мир близок к этапу рекурсивного самосовершенствования» — этапу, когда ИИ сможет самостоятельно обучаться, совершенствовать себя или создавать новые модели. Есть опасения, что в результате человек утратит возможность управлять ими. Но пока говорить об этом рано, добавили в Anthropic — при выполнении 90 % задач ИИ сотрудничает с человеком, хотя и берёт на себя значительную часть работы.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Игры можно больше не выпускать: критики вынесли вердикт GTA VI 14 мин.
Миллионы ИТ-систем по всему миру под угрозой: GPT-6 Cyber нашла критическую дыру в Java 50 мин.
Microsoft превратит Copilot в сисадмина — ИИ будет сам разбираться с поломками Windows 2 ч.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 6 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 6 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 6 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 6 ч.
Microsoft научила Windows окирпичивать украденные ноутбуки — файлы при этом не пострадают 15 ч.
Более 80 % серверов Exchange вышли из строя: Microsoft рассказала, как сама усугубила глобальный сбой Outlook 15 ч.
Microsoft представила семь ИИ-моделей: одни пишут и исправляют код, другие ищут уязвимости, редактируют изображения и общаются голосом 16 ч.
NVIDIA больше не будет продавать Китаю ускорители H200 2 ч.
Nvidia сама помогла Alibaba обойти санкции США — для этого она свела китайцев с «шпионкой» Хуанга 3 ч.
До 2 Тбайт и PCIe 4.0 x4: SSSTC представила М.2 SSD серии PQ2 для индустриальных приложений 3 ч.
2048 ядер в 2U: Giga Computing выпустила 2U4N-сервер H295-D80-CS1 с СЖО на базе AMD EPYC Venice 3 ч.
Boston Dynamics нашла новую работу для андроидов Atlas — они займутся выпуском чипов у GlobalFoundries 4 ч.
США перекрыли Китаю ещё одну лазейку к чипам Nvidia — азиатским дата-центрам запретили покупать ИИ-ускорители без разрешения Вашингтона 5 ч.
Nvidia заявила, что не намерена возвращать Хуанга на пост гендиректора 6 ч.
«Мы со всем справимся»: Nvidia удвоила прибыль и выручку, а заодно повысила прогноз, несмотря на скандал и уход Хуанга 6 ч.
Отставка Хуанга не спасла Nvidia от неприятностей — Комиссия по ценным бумагам и биржам США запустила расследование 6 ч.
Компьютер LEO, открывший эпоху коммерческого применения вычислительной техники, отмечает 75-летие 7 ч.