Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI уволила трёх исследователей безопасности ИИ — они опасаются, что компания заставит сотрудников молчать о рисках

Трое бывших исследователей OpenAI рассказали, что их на прошлой неделе внезапно уволили за общение со сторонними организациями, занимающимися безопасностью ИИ. Они предупредили, что такие решения могут заставить сотрудников бояться открыто обсуждать риски искусственного интеллекта. Сама же OpenAI подтвердила своё решение, но объяснила его по-другому.

 Источник изображений: Mariia Berezovsky / unsplash.com

Источник изображений: Mariia Berezovsky / unsplash.com

В письме под заголовком «OpenAI не сможет обеспечить безопасность искусственного интеллекта в одиночку» бывшие сотрудники лаборатории отметили, что это «необычная компания», и ключевой составляющей работы в ней является взаимодействие со сторонними организациями для решения проблем безопасности, причём её сотрудники должны делать это «свободно и без страха».

Адресованное комитетам OpenAI по безопасности письмо опубликовал Микита Балесный (Mikita Balesni) — один из уволенных сотрудников, который занимался вопросами согласования целей ИИ. Документ подписали также уволенные Томек Корбак (Tomek Korbak) и Жасмин Ван (Jasmine Wang), которые работали в сфере безопасности.

На своих личных страницах в соцсетях они написали, что причины увольнения им объяснили лишь устно, а их действия не выходили за рамки служебных обязанностей. «Причины нашего увольнения просто не складываются в логичную картину», — написала Ван. Балесному сообщили, что компания больше не доверяет ему, потому что он «слишком много общался с занимающимися вопросами безопасности сторонними организациями». «Я никогда не разглашал информацию, составляющую интеллектуальную собственность компании. Моя работа согласовывалась с непосредственным руководством, руководителями исследовательских направлений и советом директоров», — написал он.

Корбаку в устной форме объяснили, что его увольнение связано с «характером общения с METR» — сторонней некоммерческой исследовательской организацией, которая оценивает модели ИИ и связанные с безопасностью риски. «Поясню: общение с METR входило в мои служебные обязанности», — добавил он. Бывшие коллеги исследователей теперь будут «бояться высказываться и действовать в соответствии с тем, что ещё на прошлой неделе считалось неотъемлемой частью работы в OpenAI. <..> Подобные увольнения — внезапные и проведённые в такой резкой форме — подрывают открытую культуру, которую OpenAI ценила в прошлом», — говорится в письме.

Исследователи дали OpenAI три совета: привлекать к работе в организации сторонних аудиторов по безопасности, обеспечить возможность мониторинга передовых моделей ИИ и поддерживать «культуру открытого и прозрачного диалога между исследователями в сфере безопасности и остальными участниками экосистемы безопасности».

В разосланной сотрудникам служебной записке один из руководителей исследовательского направления OpenAI написал, что полностью поддерживает эти рекомендации. «Мы высоко ценили их вклад в обеспечение безопасности ИИ, а также их готовность открыто высказывать своё мнение и подвергать сомнению существующие идеи. Мы поддерживали их инициативы и оказывали им огромное доверие. Хочу подчеркнуть: причиной этих решений стало вовсе не то, что они поднимали вопросы безопасности или открыто высказывались. Мы всегда поощряли и будем поощрять подобную активность. Мы не увольняем сотрудников за то, что они указывают на проблемы», — говорится в документе.

Тем не менее, решение уволить этих троих сотрудников было принято «после тщательного расследования, выявившего нарушение ими чётких правил обращения с конфиденциальной информацией», подчеркнула компания в соцсети X. OpenAI разделяет изложенный в письме принцип необходимости «обеспечить возможность контроля передовых моделей», а также изложенные в письме идеи, касающиеся «сохранения возможности мониторинга передовых моделей», и компания продолжает вкладывать значительные ресурсы в эту сферу.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 8 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 10 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 10 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 11 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 12 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 12 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 12 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 13 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 15 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 15 ч.
Phison представила космические SSD Pascari Space 7 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 8 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 9 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 9 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 11 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 11 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 11 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 11 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 12 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 14 ч.