Сегодня 08 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI распустила AGI Readiness — ещё один отдел безопасности ИИ

OpenAI распустила отдел AGI Readiness — он консультировал компанию по вопросам её способности справляться с новыми системами искусственного интеллекта, которые становятся всё более мощными, а также готовности мира управлять этой технологией.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Старший консультант AGI Readiness Майлз Брандейдж (Miles Brundage) сообщил о своём уходе на платформе Substack. Основными причинами этого шага он назвал слишком высокие скрытые издержки, более высокую эффективность его исследований вне компании, желание быть менее предвзятым и то, что в OpenAI он достиг всего, что намеревался. Сильный ИИ (AGI) — гипотетическая система, сравнима с уровнем человека или превосходящая его; одни эксперты уверены, что человечество приблизилось к её созданию, другие считают, что это вообще невозможно. По мнению господина Брандейджа, к этому не готова ни OpenAI или любая другая передовая компания, ни весь мир — эксперт заявил, что намеревается создать собственную некоммерческую организацию или устроиться в уже существующую, чтобы заняться исследованиями и пропагандой политики в области ИИ. Его бывших подчинённых из AGI Readiness переведут в другие отделы OpenAI.

В прошлом году OpenAI сформировала отдел Superalignment — он занимался исследованиями в области «научных и технических прорывов для управления и контроля систем ИИ, которые намного умнее нас», чтобы не дать им «выйти из-под контроля». Компания обещала в течение четырёх лет выделить на нужды отдела 20 % своих вычислительных мощностей. Но уже через год, в мае этого года, он прекратил работу, а его руководители, соучредители OpenAI Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike), заявили об уходе из компании. «Создание машин, которые умнее человека — изначально опасное начинание. OpenAI берет на себя огромную ответственность от имени всего человечества. Но за последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами», — заявил тогда Лейке.

В конце сентября в один и тот же день об уходе из OpenAI объявили технический директор Мира Мурати (Mira Murati), руководитель направления исследований Боб Макгрю (Bob McGrew) и вице-президент по исследованиям Баррет Зоф (Barret Zoph).

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Цукерберг заявил, что ИИ сможет решить проблему одиночества и заменить психолога 11 ч.
Apple добавит в Safari ИИ-поиск на фоне падения популярности поисковика Google 11 ч.
Electronic Arts пока не видит причин повышать стоимость игр до $80, несмотря на пример Microsoft и Nintendo 12 ч.
Энтузиаст возродил «Скрепыша» из старого Microsoft Office в виде ИИ-ассистента 14 ч.
Sony открыла новую внутреннюю студию для создания игр-сервисов — в teamLFG вошли ветераны разработки Halo, League of Legends, Fortnite и Roblox 15 ч.
Вышла операционная система «Альт Рабочая станция К» 11.0: Wayland по умолчанию и мегавыпуск KDE Plasma 6 16 ч.
Моддеры запустили классическую Doom внутри Zelda 64: Recompiled — неофициального порта The Legend of Zelda: Majora's Mask на ПК 16 ч.
Ядро Linux лишится поддержки процессоров Intel 486 и ранних 586 16 ч.
Магия, романтика и приключения: симулятор жизни в мире японских духов Tales of Seikyu готовится к выходу в раннем доступе Steam 20 ч.
Google отдаёт своему ИИ-боту Gemini более качественные данные, чем конкурентам 20 ч.
Samsung представит сверхтонкий смартфон Galaxy S25 Edge 13 мая 2 ч.
Intel заключила контракт на выпуск ангстремных (18A) чипов для Microsoft, ведёт переговоры с Nvidia и Google 2 ч.
Microsoft повысила цену устройств Surface на 20 % — Surface Laptop теперь стоит от $1200 3 ч.
Администрация Трампа намерена предложить более простые правила в сфере контроля за экспортом ускорителей вычислений 3 ч.
Новые наушники Sony с шумоподавлением WH-1000XM6 будут дороже, но мощнее предшественников 4 ч.
Samsung купила аудиобизнес Masimo, в который входят бренды Bowers & Wilkins, Denon и Polk Audio, за $350 млн 4 ч.
Новая статья: Обзор процессорных кулеров Ocypus Iota A40 BK и Delta A40 WH ARGB 10 ч.
MSI представила игровой 4K-монитор MAG 272UP QD-OLED X24 с частотой обновления 240 Гц 11 ч.
Публичный Wi-Fi стал спасением для москвичей на время перебоев мобильной связи 14 ч.
В Москве предупредили о перебоях в работе сотовой связи и сервисов — Кремль призвал отнестись с пониманием 15 ч.