Сегодня 14 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Pipistrello and the Cursed Yoyo — замечательное приключение с ноткой ностальгии. Рецензия 4 ч.
Epic Games продолжает борьбу против читеров в Fortnite — студия подала в суд на разработчика и продавцов программ Sincey Cheats и Vanta Cheats 5 ч.
Чемоданный ИИ: в Китае придумали, как обучать модели на чипах Nvidia, которые нельзя ввезти в страну 5 ч.
Techland пообещала не бросать Dying Light 2 Stay Human из-за Dying Light: The Beast — у студии ещё «много очень и очень крутых идей» для игры 7 ч.
Несмотря на громкие провалы, Sony всё ещё нацелена на создание «разнообразных и устойчивых» игр-сервисов 9 ч.
Гейминг на Mac вышел на новый уровень: Steam наконец получил нативную поддержку процессоров Apple 9 ч.
Агрессивный план отменяется: Sony продолжит «очень вдумчиво» переносить эксклюзивы PlayStation на ПК 10 ч.
Google откажется от «мгновенных приложений» для Android, потому что ими почти никто не пользуется 11 ч.
Meta AI показывает всем чужие переписки с интимными подробностями — формально с согласия самих пользователей 14 ч.
Симулятор RoadCraft от авторов MudRunner и SnowRunner показал один из лучших запусков в истории Focus Entertainment 15 ч.
Oracle пообещала построить больше облачных ЦОД, чем все конкуренты вместе взятые 3 ч.
Робопсы Boston Dynamics станцевали в шоу «Америка ищет таланты» — один из них не справился с страхом сцены 4 ч.
И нашим, и вашим: Talen всё-таки поставит 1,92 ГВт энергии с АЭС дата-центрам AWS, но опосредованно 4 ч.
Закат эпохи DDR4: Micron объявила о прекращении выпуска устаревшей памяти 5 ч.
Новозеландцы продали США первый космоплан для суборбитальных полётов 6 ч.
Раскол Intel — вопрос времени: аналитики не верят, что компания справится с кризисом без разделения 7 ч.
Intel отправила на пенсию свои первые настольные и мобильные видеокарты Arc 8 ч.
Сделка Synopsys и Ansys на $35 млрд под угрозой — Китай отложил её одобрение 9 ч.
Intel анонсировала новую волну увольнений — в июне работы лишатся сотрудники Intel Foundry 9 ч.
Скидки сработали: iPhone стал самым продаваемым смартфоном в Китае 11 ч.