Сегодня 08 октября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI создала независимое подразделение для приостановки выпуска опасных ИИ-моделей

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

 Источник изображения: sergeitokmakov / Pixabay

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Календарь релизов — 7–13 октября: Silent Hill 2, Diablo IV: Vessel of Hatred и Anima Flux 30 мин.
Google удалила приложения Kaspersky из «Play Маркета», но установить и обновить их всё равно можно 6 ч.
TikTok и ИИ-стартапы ставят крест на доминировании Google на рынке поисковой рекламы 10 ч.
Ubisoft прокомментировала слухи о продаже компании китайскому гиганту Tencent 11 ч.
В Steam и на Xbox прокралась демоверсия Commandos: Origins с эксклюзивной миссией 12 ч.
Кампания Бакалавра для «Мора» стала отдельной игрой, но есть и хорошая новость — анонс и подробности Pathologic 3 13 ч.
Death of the Reprobate получила дату выхода в Steam — это абсурдное приключение с юмором «Монти Пайтона» в антураже искусства Позднего Возрождения 14 ч.
ООН рассказала об использовании Telegram преступными сетями из Юго-Восточной Азии 14 ч.
Критики вынесли вердикт ролевой игре Metaphor: ReFantazio от Atlus — фэнтезийная Persona или нечто большее? 15 ч.
Telegram разрешил пользователям подавать жалобы на посты, которые им просто не понравились 15 ч.