Сегодня 26 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Футбольная аркада Rematch от разработчиков Sifu стала временно бесплатной, но только в Steam 57 мин.
Геймплейный трейлер раскрыл дату релиза Possessor(s) — стильного боевика от авторов Hyper Light Drifter 3 ч.
Семь из десяти российских компаний не окупили инвестиции в ИИ 3 ч.
Meta запустила в Великобритании рекламную модель, которую ЕС признал незаконной 3 ч.
Хакеры взломали сотни сетевых устройств Cisco в правительстве США 3 ч.
Российский карточный боевик «Бессмертный. Сказки Старой Руси» взял курс на консоли — дата выхода и новый трейлер 3 ч.
Энтузиаст создал эмулятор первой PlayStation для Telegram — работает на «любых современных» смартфонах 6 ч.
Meta захотела улучшить свои приложения с помощью ИИ-технологий конкурирующей Google 7 ч.
В Twitch наконец-то появилась перемотка трансляций, но доступная она не всем 8 ч.
Google грозит огромный штраф по новому антимонопольному закону ЕС, но шансы отвертеться есть 8 ч.
Xiaomi готовит новый процессор XRing для смартфонов, но за Apple гоняться пока не намерена 37 мин.
Qualcomm поделилась подробностями о процессоре Snapdragon 8 Gen 5 для доступных флагманов 51 мин.
Грядёт подорожание электроники — авария на крупном руднике взвинтила цены на медь 3 ч.
iPhone Air оказался почти никому не нужен в России 3 ч.
Fluidstack и Google «склонили» к ИИ ещё одного криптомайнера — Cipher Mining сдаст им ЦОД 4 ч.
Представлен быстрый роутер Xiaomi BE10000 Pro с Wi-Fi 7, функцией NAS и минималистичным дизайном за $240 5 ч.
Xiaomi представила компактную портативную колонку Portable Bluetooth Speaker с элегантным дизайном 5 ч.
Лишь около 10 % российских компаний использует серверы с отечественными процессорами 6 ч.
Китай сделал шаг к солнечным панелям с напряжением 2000 В — это поможет снизить потери при передаче энергии 6 ч.
Руководить производством чипов TSMC в США поручено ветерану отрасли с опытом освоения 4-нм техпроцесса 6 ч.