Сегодня 22 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI распустила AGI Readiness — ещё один отдел безопасности ИИ

OpenAI распустила отдел AGI Readiness — он консультировал компанию по вопросам её способности справляться с новыми системами искусственного интеллекта, которые становятся всё более мощными, а также готовности мира управлять этой технологией.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Старший консультант AGI Readiness Майлз Брандейдж (Miles Brundage) сообщил о своём уходе на платформе Substack. Основными причинами этого шага он назвал слишком высокие скрытые издержки, более высокую эффективность его исследований вне компании, желание быть менее предвзятым и то, что в OpenAI он достиг всего, что намеревался. Сильный ИИ (AGI) — гипотетическая система, сравнима с уровнем человека или превосходящая его; одни эксперты уверены, что человечество приблизилось к её созданию, другие считают, что это вообще невозможно. По мнению господина Брандейджа, к этому не готова ни OpenAI или любая другая передовая компания, ни весь мир — эксперт заявил, что намеревается создать собственную некоммерческую организацию или устроиться в уже существующую, чтобы заняться исследованиями и пропагандой политики в области ИИ. Его бывших подчинённых из AGI Readiness переведут в другие отделы OpenAI.

В прошлом году OpenAI сформировала отдел Superalignment — он занимался исследованиями в области «научных и технических прорывов для управления и контроля систем ИИ, которые намного умнее нас», чтобы не дать им «выйти из-под контроля». Компания обещала в течение четырёх лет выделить на нужды отдела 20 % своих вычислительных мощностей. Но уже через год, в мае этого года, он прекратил работу, а его руководители, соучредители OpenAI Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike), заявили об уходе из компании. «Создание машин, которые умнее человека — изначально опасное начинание. OpenAI берет на себя огромную ответственность от имени всего человечества. Но за последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами», — заявил тогда Лейке.

В конце сентября в один и тот же день об уходе из OpenAI объявили технический директор Мира Мурати (Mira Murati), руководитель направления исследований Боб Макгрю (Bob McGrew) и вице-президент по исследованиям Баррет Зоф (Barret Zoph).

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Журналисты проанализировали, почему всё меньше и меньше игр Xbox выходит на дисках 2 мин.
Навязчивые cookie-баннеры могут исчезнуть — в ЕС поняли, что они неэффективны 31 мин.
Календарь релизов — 22–28 сентября: Silent Hill f, Endless Legend 2 и Sonic Racing: CrossWorlds 60 мин.
«Это настоящая магия»: энтузиасты сделали браузерный порт GTA: Vice City и не знают, как его выпустить, чтобы «не нарушить чьи-либо права» 3 ч.
WhatsApp и Telegram стали популярнее в России, несмотря на блокировку звонков 4 ч.
Интересная, атмосферная и на удивление «боевитая»: критики вынесли вердикт Silent Hill f 4 ч.
Google Chrome для Android научился пересказывать веб-страницы в виде подкаста 6 ч.
Авторы «Василисы и Бабы Яги» анонсировали приключенческую игру «Чёртова служба» про чёрта на службе у Петра Первого 6 ч.
Актриса озвучки Mafia: The Old Country проговорилась о новой «Мафии» 7 ч.
Боевик «Земский собор» от создателей «Смуты» получил демоверсию на ПК и выйдет в срок, если только «небо на землю не упадёт» 10 ч.
Оперативная память подорожает: Samsung повысила цены на DRAM и мобильную NAND на 5–30 % 57 мин.
OpenYard представила российский GPU-сервер HN203I на базе Intel Xeon 6 2 ч.
Nokia привлекла топ-менеджеров Intel и HPE для перестройки компании 2 ч.
Asus представила монитор ROG Strix OLED XG27AQDMGR — 2K, 240 Гц и улучшенное антибликовое покрытие 3 ч.
Vastarmor представила Radeon RX 9070 Alloy Pro и Alloy Pro White с термопрокладками с фазовым переходом 4 ч.
Обновление брандмауэра привело минимум к трём смертям — австралийский оператор Optus заблокировал звонки в экстренные службы 4 ч.
Китай построит гигантский ИИ-суперкомпьютер в ответ на американский мегапроект Stargate 4 ч.
У MediaTek появятся процессоры с маркировкой «Сделано в Америке» для избранных клиентов 5 ч.
ASRock представила видеокарты Intel Arc Pro B60 для рабочих станций с ИИ 5 ч.
MediaTek представила Dimensity 9500 — конкурент Apple A19 Pro и первый процессор на ядрах Arm C1 и частотой до 4,21 ГГц 6 ч.