Сегодня 24 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI распустила AGI Readiness — ещё один отдел безопасности ИИ

OpenAI распустила отдел AGI Readiness — он консультировал компанию по вопросам её способности справляться с новыми системами искусственного интеллекта, которые становятся всё более мощными, а также готовности мира управлять этой технологией.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Старший консультант AGI Readiness Майлз Брандейдж (Miles Brundage) сообщил о своём уходе на платформе Substack. Основными причинами этого шага он назвал слишком высокие скрытые издержки, более высокую эффективность его исследований вне компании, желание быть менее предвзятым и то, что в OpenAI он достиг всего, что намеревался. Сильный ИИ (AGI) — гипотетическая система, сравнима с уровнем человека или превосходящая его; одни эксперты уверены, что человечество приблизилось к её созданию, другие считают, что это вообще невозможно. По мнению господина Брандейджа, к этому не готова ни OpenAI или любая другая передовая компания, ни весь мир — эксперт заявил, что намеревается создать собственную некоммерческую организацию или устроиться в уже существующую, чтобы заняться исследованиями и пропагандой политики в области ИИ. Его бывших подчинённых из AGI Readiness переведут в другие отделы OpenAI.

В прошлом году OpenAI сформировала отдел Superalignment — он занимался исследованиями в области «научных и технических прорывов для управления и контроля систем ИИ, которые намного умнее нас», чтобы не дать им «выйти из-под контроля». Компания обещала в течение четырёх лет выделить на нужды отдела 20 % своих вычислительных мощностей. Но уже через год, в мае этого года, он прекратил работу, а его руководители, соучредители OpenAI Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike), заявили об уходе из компании. «Создание машин, которые умнее человека — изначально опасное начинание. OpenAI берет на себя огромную ответственность от имени всего человечества. Но за последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами», — заявил тогда Лейке.

В конце сентября в один и тот же день об уходе из OpenAI объявили технический директор Мира Мурати (Mira Murati), руководитель направления исследований Боб Макгрю (Bob McGrew) и вице-президент по исследованиям Баррет Зоф (Barret Zoph).

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Сюжетный трейлер раскрыл дату выхода Unfinished Business — самостоятельного дополнения к RoboCop: Rogue City 6 мин.
Видеосервис для совместной работы MWS TeamStream на треть сократит время общения сотрудников 41 мин.
Meta предложила Amazon и Microsoft «скинуться» на обучение ИИ-моделей Llama 2 ч.
Следующей Frostpunk оказался ремейк первой части на Unreal Engine 5 — трейлер и подробности Frostpunk 1886 2 ч.
Минцифры пообещало не запрещать мессенджеры в России, но регулирование ужесточит 2 ч.
Intel выпустила графический драйвер с поддержкой The Elder Scrolls IV: Oblivion Remastered и Clair Obscur: Expedition 33 3 ч.
DeepSeek без разрешения передавал данные пользователей и их запросы в Китай, заявили в Южной Корее 3 ч.
Adobe обновила ИИ-генератор изображений Firefly и переработала его веб-приложение 4 ч.
Российская ролевая тактика «Сатурн» получила сюжетное дополнение «Осколки отражений» и крупное обновление 4 ч.
Adobe представила ИИ-агента, который научит пользоваться Photoshop 5 ч.
Volkswagen и Uber создадут конкурента сервису роботакси Tesla на базе электрических микроавтобусов ID.Buzz 43 мин.
Электромобили Stellantis получат передовые твердотельные аккумуляторы Factorial в следующем году 2 ч.
Apple iPhone 16e продаётся лучше последнего iPhone SE, а iPhone 16 Pro уступил предшественнику 2 ч.
Провалившиеся ИИ-броши Humane AI Pin вернули к жизни, но HP к этому не имеет отношения 2 ч.
Производители ПК попытаются найти спасение от американских пошлин в Саудовской Аравии 2 ч.
Беспилотные такси Tesla уже намотали 24 000 км в рамках тестов 2 ч.
Nissan завершил финансовый год с рекордными убытками, но хочет исправить положение с помощью электромобилей китайской сборки 3 ч.
Китай запустил трёх тайконавтов на полгода в космос на корабле «Шэньчжоу-20» 3 ч.
Анонсирован компактный флагман OnePlus 13T со Snapdragon 8 Elite, ёмкой батареей и ценой от $450 4 ч.
Представлен Zeekr 9X — роскошный гибрид, способный проехать 380 км без топлива 5 ч.