Сегодня 30 декабря 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Аналитики рассказали, чего ждать от GTA VI — рекорды продаж, но не спасение игровой индустрии 43 мин.
Nvidia завершали поглощение ИИ-стартапа Run:ai за $700 млн 2 ч.
Неофициальный русский дубляж Star Wars Jedi: Survivor от GamesVoice всё-таки вышел, но не полностью 3 ч.
Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98 3 ч.
Игроков заворожил геймплейный трейлер The Bustling World — амбициозной RPG в открытом мире Древнего Китая с безбрежной свободой выбора 7 ч.
Первый Office — бесплатно: FTC подозревает Microsoft в антиконкурентном поведении ради сохранения правительственных контрактов 7 ч.
Вышел новый геймплейный трейлер Operation: Black Mesa — фанатского ремейка Half-Life: Opposing Force и Blue Shift 7 ч.
ИИ будет манипулировать людьми, чтобы они принимали нужные решения 8 ч.
Годы идут, а игру продолжают покупать: продажи Stardew Valley достигли новой вершины 9 ч.
В YouTube появилась кнопка «Воспроизвести что-нибудь», но пока не у всех пользователей 10 ч.
Intel начала принимать заказы на непредставленные чипы Arrow Lake до официального анонса 2 ч.
В Китае представили прототипы самого быстрого в мире электропоезда 2 ч.
Облачные ИИ-стартапы вряд ли потеснят гиперскейлеров, но всё равно повлияют на них 5 ч.
Xiaomi представила компактный пауэрбанк на 20 000 мА·ч со встроенным кабелем USB-C за $22 5 ч.
Китайский ускоритель Moore Threads MTT X300 обеспечивает FP32-быстродействие до 14,4 Тфлопс 5 ч.
Moore Threads выпустила профессиональную видеокарту MTT X300 на мощном китайском GPU 5 ч.
Новая статья: Обзор смартфона Infinix ZERO Flip: раскладушка как средний класс 6 ч.
LG представила микроволновую печь с 27-дюймовым экраном для рекламы и развлечений 7 ч.
Вышли сверхпрочные смартфоны Blackview BV8200 и Oscal Pilot 1 и ноутбук Blackview AceBook 12 с большим тачпадом 7 ч.
Firefly представила серверы CSB1-N10 для создания ИИ-кластеров из одноплатных компьютеров 8 ч.