Сегодня 06 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Warner Bros. подала в суд на Midjourney: сервис слишком хорошо генерирует Бэтменов и Суперменов 4 мин.
Anthropic согласилась выплатить $1,5 млрд по иску об авторских правах 3 ч.
OpenAI в ближайшие несколько лет потратит на свою инфраструктуру $115 млрд 4 ч.
Новая статья: Shinobi: Art of Vengeance — молчаливый и опасный. Рецензия 12 ч.
«Нам есть что рассказать»: глава MachineGames подтвердил планы на Wolfenstein 3 14 ч.
Microsoft Copilot научился создавать сводки по файлам и документам из облака OneDrive 16 ч.
«Красиво, страшно, залипательно»: хоррор Cronos: The New Dawn от авторов ремейка Silent Hill 2 стартовал в Steam с «очень положительными» обзорами 16 ч.
VI Форум «Мой бизнес» в Архангельске: малый бизнес, цифровизация и новые правила 18 ч.
После выхода Hollow Knight: Silksong самой желанной игрой пользователей Steam стала скандальная Subnautica 2 18 ч.
Apple обвинили в нарушении патентов на технологию «Привет, Siri» 18 ч.
Очередной запуск спутников SpaceX Starlink ознаменовался 500-й посадкой первой ступени ракеты Falcon 9 16 мин.
Motorola представила смартофн Edge 60 Neo с батареей на 5000 мА·ч и защитой IP69 4 ч.
Специалисты iFixit оценили Google Pixel 10 средним баллом за ремонтопригодность 4 ч.
Google тайком удалила обещание стать углеродно-нейтральной к 2030 году — всему виной аппетиты ИИ 11 ч.
Европа оштрафовала Google почти на €3 млрд за злоупотребления на рекламном рынке 11 ч.
Karri Messenger позволит детям безопасно общаться с родителями и друзьями при помощи голосовых сообщений 15 ч.
Qualcomm и BMW представили систему автономного вождения, которую будут продавать на сторону 16 ч.
Huawei заняла почти половину мирового рынка складных смартфонов — Samsung даже не вторая по популярности 16 ч.
На IFA 2025 показали пауэрбанк, который работает даже с пробитой батареей 18 ч.
Tesla предложила Илону Маску до $1 трлн за десять лет работы гендиректором 18 ч.