Сегодня 31 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI распустила AGI Readiness — ещё один отдел безопасности ИИ

OpenAI распустила отдел AGI Readiness — он консультировал компанию по вопросам её способности справляться с новыми системами искусственного интеллекта, которые становятся всё более мощными, а также готовности мира управлять этой технологией.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Старший консультант AGI Readiness Майлз Брандейдж (Miles Brundage) сообщил о своём уходе на платформе Substack. Основными причинами этого шага он назвал слишком высокие скрытые издержки, более высокую эффективность его исследований вне компании, желание быть менее предвзятым и то, что в OpenAI он достиг всего, что намеревался. Сильный ИИ (AGI) — гипотетическая система, сравнима с уровнем человека или превосходящая его; одни эксперты уверены, что человечество приблизилось к её созданию, другие считают, что это вообще невозможно. По мнению господина Брандейджа, к этому не готова ни OpenAI или любая другая передовая компания, ни весь мир — эксперт заявил, что намеревается создать собственную некоммерческую организацию или устроиться в уже существующую, чтобы заняться исследованиями и пропагандой политики в области ИИ. Его бывших подчинённых из AGI Readiness переведут в другие отделы OpenAI.

В прошлом году OpenAI сформировала отдел Superalignment — он занимался исследованиями в области «научных и технических прорывов для управления и контроля систем ИИ, которые намного умнее нас», чтобы не дать им «выйти из-под контроля». Компания обещала в течение четырёх лет выделить на нужды отдела 20 % своих вычислительных мощностей. Но уже через год, в мае этого года, он прекратил работу, а его руководители, соучредители OpenAI Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike), заявили об уходе из компании. «Создание машин, которые умнее человека — изначально опасное начинание. OpenAI берет на себя огромную ответственность от имени всего человечества. Но за последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами», — заявил тогда Лейке.

В конце сентября в один и тот же день об уходе из OpenAI объявили технический директор Мира Мурати (Mira Murati), руководитель направления исследований Боб Макгрю (Bob McGrew) и вице-президент по исследованиям Баррет Зоф (Barret Zoph).

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Palo Alto Networks купит разработчика ИБ-продуктов CyberArk за $25 млрд 45 мин.
Экс-глава «ВКонтакте» Борис Добродеев стал новым руководителем издателя «Мира танков» 3 ч.
«Это не может быть фейком»: игроки приняли фанатский ролик по Black Myth: Wukong за кадры официального дополнения 3 ч.
Microsoft увеличила выручку и впервые раскрыла цифры по Azure 3 ч.
Создатели «Чёрной книги» рассказали об идеях для продолжения и вспомнили о «позабытом DLC» про деда Егора 4 ч.
Москву захватили безумные создания из другого мира — авторы «Царевны» анонсировали «плюшевый» шутер Plushes 5 ч.
Ежемесячная выручка OpenAI достигла $1 млрд — расходы тоже выросли 5 ч.
Российские бизнесмены стали чаще нанимать хакеров, чтобы напакостить конкурентам 5 ч.
Dropbox предупредила о закрытии своего менеджера паролей 7 ч.
ИИ увеличил времяпрепровождение пользователей в Facebook и Instagram, похвалился Цукерберг 7 ч.
Microsoft впервые заработала на Game Pass $5 млрд за год — это сгладило рухнувшие на 22 % продажи консолей Xbox 60 мин.
«Компания не будет тратить на это деньги»: SpaceX ответит в суде за пренебрежение безопасностью сотрудников 2 ч.
Выручка Vertiv выросла на 35 % на фоне «беспрецедентного роста ЦОД», но новые тарифы мешают бизнесу 3 ч.
«Продажи HBM от Samsung достигли дна»: SK hynix стала крупнейшим производителем памяти в мире 3 ч.
Google превратила миллиарды Android-смартфонов в глобальную систему раннего предупреждения землетрясений 3 ч.
Китай заподозрил ИИ-чипы Nvidia H20 в наличии встроенных «шпионских функций» 4 ч.
Microsoft отчиталась о подскочившей выручке от облачных услуг — Windows и игры тоже на подъёме 4 ч.
Google рассчитывает построить ЦОД Vizag мощностью 1 ГВт за $6 млрд в Индии 4 ч.
Квартальный отчёт Meta с акцентом на ИИ превзошёл прогнозы — акции выросли на 10 % 4 ч.
Tesla прекратила принимать заказы на Model S и Model X в Европе — как ни странно, из-за дефицита 5 ч.