Сегодня 24 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Руководители OpenAI обещают развивать ИИ ответственно, хотя специалисты в этой сфере уволились

После недавней и неожиданной отставки двух ключевых фигур из отдела ИИ-безопасности OpenAI, руководители компании вынуждены были занять оборонительную позицию, так как к ним появилось много вопросов со стороны общественности в отношении стратегии рисков при разработке искусственного интеллекта.

 Источник изображения: Copilot

Источник изображения: Copilot

Ушедшие руководители — главный научный сотрудник Илья Суцкевер (Ilya Sutskever) и его коллега Ян Лейке (Jan Leike) — были частью суперкоманды OpenAI, отвечающей за разработку ИИ, совместимого с интересами человечества. Их уход, предположительно, был вызван разногласиями с руководством компании по поводу обеспечения глобального приоритета безопасности, чтобы «ИИ не разрушил мир».

Лейке прямо заявил, что давно не согласен с руководством в этих вопросах и что ситуация достигла критической точки. А Суцкевер даже пытался сместить гендиректора Сэма Альтмана (Sam Altman) с поста в прошлом году, хотя позднее выразил сожаление в своих действиях.

После их ухода общественность забила тревогу по поводу приоритетов OpenAI в плане безопасности. В ответ Альтман и президент Грег Брокман (Greg Brockman) опубликовали подробные заявления, объясняющие подход компании.

Они подчеркнули, что OpenAI уже внесла большой вклад в обеспечение безопасного развития ИИ, в частности, призывали к международному регулированию еще до того, как это стало мейнстримом. Альтман также предлагал создать международное агентство для обеспечения разумного тестирования систем ИИ.

Брокман заверил, что OpenAI тщательно анализирует риски на каждом этапе разработки и не планирует публиковать новые системы, пока компания не будет уверена в их безопасности, даже если это задержит выпуск.

Однако ушедшие руководители отдела ИИ-безопасности, похоже, обеспокоены тем, что текущий подход не обеспечивает достаточной защиты. По словам Лейке, эти проблемы очень сложно решать, и он обеспокоен, что компания не движется в правильном направлении в этом вопросе.

Несмотря на заверения руководства, уход ключевых специалистов ставит под сомнение заявления OpenAI о глобальной безопасности ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Valve сделала магазин Steam более динамичным и персонализированным — переработанное меню вышло из «беты» 2 ч.
YouTube объявил амнистию для блогеров, заблокированных за фейки о COVID-19 и выборах 2 ч.
Японский Amazon рассекретил дату выхода Nioh 3 до официального анонса 3 ч.
«Google Фото» теперь редактирует снимки по голосовым командам — функция вышла за пределы Pixel 5 ч.
Yakuza Kiwami 3 выйдет с переводом на русский и сюжетным дополнением про главного злодея — дата релиза и первый трейлер ремейка Yakuza 3 6 ч.
Китайский пользователь первым в истории Steam собрал на аккаунте более 40 000 игр 16 ч.
ChatGPT обманом заставили пройти CAPTCHA — интернет могут наводнить фейковые публикации от ИИ 16 ч.
«Google Документы» получат дизайн с стиле Material 3 Expressive и новые фильтры поиска 17 ч.
Голосовой ИИ-помощник Gemini Live поможет в прохождении игр на Android 18 ч.
В WhatsApp встроили бесплатный переводчик сообщений, в том числе на русский 18 ч.
Samsung прибрала к рукам Bowers & Wilkins, Denon, Marantz и ещё пятёрку брендов аудиотехники 12 мин.
Logitech представила беспроводную клавиатуру, которая заряжается от лампочки — Signature Slim Solar Plus K980 37 мин.
Raspberry Pi готовит вычислительный модуль CM0 с поддержкой Wi-Fi 4 и Bluetooth 4.2 LE 47 мин.
На краю Солнечной системы засекли вероятный взрыв первичной чёрной дыры — это приблизит учёных к пониманию тёмной материи 2 ч.
Гигаватт в неделю: OpenAI задумала развернуть крупнейшее производство ИИ-инфраструктуры 2 ч.
Samsung вернулась в гонку за рынок памяти для ИИ — её доля на рынке HBM превысит 30 % в следующем году 2 ч.
В России поступили в продажу смартфоны Infinix HOT 60 Pro и HOT 60 Pro+ по цене от 12 990 рублей 2 ч.
OpenAI, Oracle и SoftBank построят в США ещё пять ИИ ЦОД для проекта Stargate 2 ч.
В MIT создали магнитный транзистор с памятью — на порядок мощнее всех существующих 3 ч.
iFixit показала внутреннее устройство iPhone 17 Pro и высоко оценила его ремонтопригодность 3 ч.