Сегодня 09 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Команда специалистов OpenAI по защите человечества от угроз, связанных с ИИ, просуществовала менее года

Уход из OpenAI одного из основателей этого стартапа Ильи Суцкевера, как поясняет CNBC, стал одной из причин распада команды специалистов по управлению долгосрочными рисками, связанными с внедрением искусственного интеллекта. Эта структурная единица, призванная защитить человечество от угроз, возникающих в связи с распространением ИИ, не просуществовала в OpenAI и одного года.

 Источник изображения: Университет Торонто

Источник изображения: Университет Торонто

По данным CNBC, озабоченность подобными рисками уже давно проявлял сам Илья Суцкевер (на фото выше), руководивший в OpenAI научными изысканиями и исследованиями. Он же возглавлял и профильную команду по управлению рисками вместе с Яном Лейке (Jan Leike), но последний на уходящей неделе тоже покинул штат компании. Сформированная в прошлом году команда, как изначально подразумевалась, будет следить за минимизацией рисков, связанных с распространением технологий искусственного интеллекта, и OpenAI намеревалась выделить до 20 % своих вычислительных ресурсов для этих нужд в течение ближайших четырёх лет. После ухода руководителей команды её оставшиеся члены были назначены на другие позиции внутри компании.

Вчера Ян Лейке заявил, комментируя свой уход из OpenAI, что «культура безопасности и процессы уступили место сияющим продуктам». Как и в случае с уходом Ильи Суцкевера, действующий генеральный директор OpenAI Сэм Альтман (Sam Altman) выразил сожаление по поводу отставки Яна Лейке. По словам последнего, он уже длительное время не разделял взглядов руководства на приоритетные направления развития компании, и теперь эти противоречия достигли критического значения. Как он считает, OpenAI должна уделять больше внимания безопасности и влиянию создаваемых технологий на общество. На протяжении последних нескольких месяцев профильная команда внутри OpenAI, по словам Лейке, буквально «шла по воде под парусом против ветра». Достигать поставленных задач становилось всё сложнее, специалисты были очень ограничены в ресурсах. Лейке по-прежнему убеждён, что OpenAI должна в разработке генеративного искусственного интеллекта быть компанией, ставящей безопасность во главу угла, поскольку «создание машин, превосходящих людей — это очень опасная затея».

Как поясняет Bloomberg, компания OpenAI сохранит в своём штате специалистов, которые следят за безопасностью искусственного интеллекта, но они будут рассредоточены по различным подразделениям. Схожими функциями будут наделены и обособленные подразделения стартапа, поэтому говорить о полностью бесконтрольном развитии ИИ в новых условиях не приходится.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Зона расширяется: GSC Game World наконец подтвердила релиз S.T.A.L.K.E.R. 2: Heart of Chornobyl на PS5 2 ч.
Mistral AI хочет привлечь $1 млрд для конкуренции с OpenAI 2 ч.
За год замедления YouTube в России Rutube нарастил просмотры в 7,5 раза 3 ч.
Два американца ответят в суде за хищение $650 млн через криптовалютную пирамиду OmegaPro — они обещали доход до 300 % 3 ч.
VK опубликовала рейтинг самых популярных игр и приложений в RuStore 6 ч.
ИИ неделями дурачил пользователей музыкального сервиса, выдавая себя за рок-группу из живых людей 6 ч.
Суд США заблокировал правило FTC о простой отмене подписок «в один клик» 7 ч.
Выпущена обновлённая версия AMOS — распространённый вирус для macOS стал ещё опаснее 7 ч.
Не просто HD-версия: разработчики ремейка «Готики» рассказали об отличиях от классической игры Piranha Bytes 8 ч.
ByteDance ещё не согласилась на сделку с Oracle и лишь раздумывает над созданием чисто американских приложений 9 ч.
BYD пообещала оплатить любой ущерб при автономной парковке её автомобилей с автопилотом 15 мин.
Представлен электромобиль Rivian R1 с четырьмя двигателями — от $115 990 21 мин.
Apple подумывала о запуске облака на собственных чипах, но решение так и не приняла 60 мин.
Nvidia стала первой компанией в истории с капитализацией $4 триллиона 2 ч.
Samsung представила первую «бюджетную» раскладушку — Galaxy Z Flip7 FE по цене от 69 990 рублей 2 ч.
Новая статья: Первый взгляд на гибкие смартфоны Samsung Galaxy Z Fold7 и Samsung Galaxy Z Flip7 2 ч.
Samsung представила Galaxy Z Fold7 — тонкий складной смартфон с 200-Мп камерой и ценой от 148 990 рублей 2 ч.
Представлена похудевшая раскладушка Samsung Galaxy Z Flip7 с чипом Exynos 2500 и увеличенными экранами за 91 990 рублей 2 ч.
Samsung представила смарт-часы Galaxy Watch8 и Watch8 Classic с измерением антиоксидантов и ценой от 25 990 рублей 2 ч.
Samsung представила обновлённые смарт-часы Galaxy Watch Ultra с титановым корпусом за 44 990 рублей 2 ч.