Сегодня 06 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Массовые увольнения в Intel ударили по открытому ПО — Debian и Ubuntu остались без обновлений важных пакетов 35 мин.
Paradox забросит амбициозную стратегию Millennia в духе «Цивилизации» спустя всего полтора года после релиза, и фанаты не рады 3 ч.
Поглощение Activision обернулось тем, чего боялась FTC — Microsoft режет кадры и поднимает цены 3 ч.
«Это полный сюр»: хоррор об ужасах долговой ямы CloverPit за восемь дней достиг полумиллиона проданных копий в Steam 5 ч.
Orion soft представил рынку собственный VDI 6 ч.
Закулисное обновление в Steam разожгло слухи об апгрейде Red Dead Redemption 2 для «следующего поколения» 7 ч.
Новый регион, 60 часов геймплея и нелинейный сюжет: спустя 11 лет для Skyrim вышел сюжетный мод Lordbound размером с официальный аддон 7 ч.
Популярное направление: ИИ перетянул на себя больше половины средств венчурных инвесторов 8 ч.
В Meta начали отслеживать активность использования ИИ сотрудниками — через игру 11 ч.
Новая статья: NCORE — жетонов и зрелищ! Предварительный обзор 16 ч.
Разработчик царь-ускорителей Cerebras Systems отозвал заявку на IPO 32 мин.
GIP близка к поглощению оператора ЦОД Aligned Data Centers за $40 млрд 46 мин.
HP представила компактный «ИИ-суперкомпьютер» ZGX Nano G1n AI Station на основе NVIDIA GB10 2 ч.
20 тыс. км и 260 Тбит/с: подводный кабель Bifrost между США и Сингапуром, созданный при участии Meta и AWS, готов к эксплуатации 4 ч.
250 Тбит/с на чип: Ayar Labs, Alchip и TSMC предложили референс-дизайн для упаковки ASIC, памяти и оптических модулей в одном чипе 5 ч.
+69 000 % за 20 лет: акции Nvidia — абсолютный лидер S&P 500 по долгосрочным темпам роста 6 ч.
Corning и GlobalFoundries создадут оптические коннекторы для кремниевой фотоники 6 ч.
OpenAI оснастит дата-центры энергетическим оборудованием Hitachi 7 ч.
Дефицит флеш-памяти NAND станет нормой в ближайшие десять лет, как считает глава Phison 9 ч.
Foxconn показала рекордную квартальную выручку на фоне бума ИИ-технологий 11 ч.