Сегодня 16 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → химическое оружие

OpenAI опасается, что вскоре её модели научатся разрабатывать биологическое оружие

OpenAI обеспокоена тем, что следующее поколение её моделей искусственного интеллекта может значительно увеличить риск разработки биологического оружия, предоставив такую возможность даже людям без научного образования. Руководитель систем безопасности OpenAI Йоханнес Хайдеке (Johannes Heidecke) ожидает, что «некоторые из преемников нашей o3 [модели рассуждений] достигнут этого уровня». В связи с этим OpenAI усиливает тестирование безопасности.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

OpenAI сообщила о разработке системы для оценки и снижения рисков, создаваемых все более мощными моделями ИИ. Компания усиливает тестирование безопасности, чтобы снизить риск использования её моделей преступниками и террористами. Без этих мер по снижению рисков модели вскоре смогут «подняться на новый уровень», что позволит даже людям с ограниченными научными знаниями создавать опасное оружие.

«Мы [пока] ещё не в мире, где есть что-то новое, совершенно неизвестное, создающее биологические угрозы, которых раньше не было, — заявил Хайдеке. — Мы больше беспокоимся о воспроизведении вещей, с которыми эксперты уже хорошо знакомы». Особая сложность состоит в том, что те же инструменты, которые могли бы обеспечить жизненно важные медицинские прорывы, могут быть использованы злоумышленниками в опасных целях.

Именно поэтому ведущим лабораториям ИИ нужны высокоточные системы тестирования. «Это не та область, где производительность 99 % или одна ошибка на 100 000… допустимы, — считает Хайдеке. — Нам в основном нужно, что-то вроде почти идеального».

OpenAI — не единственная компания, обеспокоенная неправомерным использованием своих моделей, когда дело касается разработки оружия. По мере того, как модели становятся более совершенными, их потенциал для преступного использования растёт. Недавно компания Anthropic выпустила продвинутую модель Claude Opus 4 с более строгими протоколами безопасности, чем у любой из предыдущих моделей.

 Источник изображений: unsplash.com

В соответствии с политикой ответственного масштабирования, созданной по образцу уровней биологической угрозы (BSL) правительства США, ей присвоен третий «уровень безопасности ИИ» (AI Safety Level) ASL-3. Все предыдущие модели Anthropic отнесены к уровню ASL-2. Третьему уровню безопасности соответствуют продвинутые модели, которые достаточно мощны, чтобы представлять значительные риски, такие как помощь в разработке оружия или автоматизация разработки систем ИИ.

Недавно Claude Opus 4 попала в заголовки СМИ после попытки шантажировать инженера, чтобы избежать отключения в ходе строго контролируемого теста. Ранние версии этой модели были готовы выполнять опасные инструкции, например, планирование террористических атак. Компания заверила общественность, что эта проблема была решена внесением изменений в набор обучающих данных.


window-new
Soft
Hard
Тренды 🔥
«Выглядит потрясающе»: моддер прокачал Dark Souls: Prepare To Die Edition с помощью трассировки пути 25 мин.
«Формула-1» заключила партнёрство с игрой Umamusume: Pretty Derby про девушек-лошадей 2 ч.
Никаких убийств, драк с полицией и угонов машин: китайские СМИ раскрыли правила стриминга GTA VI 4 ч.
Microsoft 364: на устранение сбоя облачных сервисов компании ушло больше суток 17 ч.
GTA V запустили на Nintendo Switch 2: игра не только загружается, но и запускает миссии 17 ч.
Facebook заглядывал в галереи смартфонов без разрешения — Meta получила штраф на €805 млн 22 ч.
ИИ обернулся против Хуанга: экс-глава Nvidia стал главным героем ИИ-мемов 15-11 13:07
Крупнейшее обновление LoL в истории: Riot Games показала тизер League of Legends: New Dawn, запланированной на 2027 год 15-11 13:01
Китайская Bilibili Gaming cтала чемпионом World Championship 2026 по League of Legends, прервав многолетнее доминирование корейских команд 15-11 12:40
Биткоин за неделю подешевел на 15 % — ниже $65 000 за монету 15-11 00:44
Встраиваемая система AAEON Boxer-8741AI выполнена на платформе NVIDIA Jetson T5000 19 мин.
Дженсен Хуанг тайно обсуждает с союзниками возвращение на пост гендира Nvidia 23 мин.
Завтра — глобальный анонс флагманов Xiaomi 18 Pro и Pro Max, в том числе в России 27 мин.
POCO X8 Pro Max, POCO X8 и POCO X8s — надёжные смартфоны с премиальным дизайном и высокой производительностью 56 мин.
РТК-ЦОД выполнил миграцию ИТ-систем «Комуса» в гибридную среду без остановки бизнес-процессов 4 ч.
CXL-карта Penguin Solutions позволит установить DDR4 в современные ИИ-серверы 4 ч.
Biostar выпустила плату BIPTL-IHT для периферийных ИИ-устройств на базе Intel Panther Lake-H 5 ч.
Новая статья: Обзор SSD-накопителя Samsung 990: четыре бита и много вопросов 14 ч.
+571 % к выручке за год, капзатраты $40–$45 млрд и безубыточность к концу 2027-го: Nebius отчиталась за III квартал 14 ч.
Apple готовит конкурента Meta Ray-Ban: очки с Siri AI будут тоньше и получат наилучшее качество звука 15 ч.