Сегодня 17 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Успех не спасает от сокращений: разработчиков The Elder Scrolls IV: Oblivion Remastered из студии Virtuos настигли массовые увольнения 2 ч.
OpenAI избавляется от зависимости от Microsoft: часть инфраструктуры ChatGPT переедет в Google Cloud 3 ч.
Кооперативный шутер Misery в духе S.T.A.L.K.E.R. и Lethal Company взял курс на релиз — дата выхода, старт «беты» и новый трейлер 3 ч.
Microsoft Copilot с треском проиграл ChatGPT в гонке за аудиторию — несмотря на миллиардные инвестиции 3 ч.
«Вырвала игру из рук создателей и фанатов»: уволенные сооснователи Unknown Worlds обвинили Krafton в саботаже Subnautica 2 ради собственной выгоды 4 ч.
xAI наймёт разработчика ИИ-аниме-девушек, а Маск показал ИИ-компаньона на основе Эдварда Каллена из «Сумерек» 4 ч.
Искусственный интеллект Google теперь может звонить по телефону за пользователя 5 ч.
Геймплейный трейлер раскрыл звёздный актёрский состав и дату выхода Dead Take — психологического хоррора о тёмной стороне киноиндустрии 6 ч.
Intel научила ИИ оценивать, как апскейлинг и генерация кадров влияют на качество графики в играх 7 ч.
Анонсирована EA Sports FC 26 — новая глава в истории серии, геймплей с оглядкой на критику фанатов и непревзойдённая реалистичность 17 ч.
Ближайшая волна сокращений лишит работы 5000 сотрудников Intel только в США 49 мин.
Wacom выпустила 11-дюймовый графический планшет MovinkPad на Android — для творчества на ходу 2 ч.
TSMC ускорит строительство заводов в Аризоне и обещает до 30 % передовых чипов выпускать в США 2 ч.
xAI ведёт с Humain переговоры о создании ИИ ЦОД в Саудовской Аравии 2 ч.
SK hynix и Samsung передумали останавливать выпуск резко подорожавшей памяти DDR4 2 ч.
Xiaomi YU7 не вывез реальный тест запаса хода — он оказался более чем на треть меньше заявленного 3 ч.
LG представила тонкие, но мощные ноутбуки Gram Pro с Core Ultra 200H и автономностью 27 часов 3 ч.
Представлен шестиместный электромобиль Li Auto i8 с запасом хода 720 км и ценой от $48 750 3 ч.
Exascend представила первый в мире 7-мм U.2 SSD вместимостью 30,72 Тбайт 4 ч.
Неиссякаемый поток денег от ИИ: квартальная прибыль TSMC взлетела на 61 % до рекордных $13,53 млрд 5 ч.