MWC 2018
2018
Computex
IFA 2018
Следующая ИИ-модель OpenAI разрабатывается другой ИИ-моделью, что свидетельствует о том, что ИИ может совсем скоро достигнуть уровня искусственного сверхинтеллекта. Об этом в интервью CNBC заявил генеральный директор SoftBank Масаёси Сон (Masayoshi Son). Его комментарий прозвучал на фоне предупреждения компании Anthropic о том, что разработку ИИ, возможно, придётся замедлить, чтобы справиться с последствиями быстрого темпа совершенствования технологии.
Источник изображения: Bleeping Computer
SoftBank является одним из крупнейших акционеров OpenAI. В интервью CNBC Масаёси Сон сообщил, что разговаривал с генеральным директором OpenAI Сэмом Альтманом (Sam Altman) и инженерами компании, которые рассказали ему, что будущую модель ИИ «разрабатывает» другая ИИ-модель. «То же самое [в перспективе] произойдет со всеми другими основными моделями. Как только это произойдёт, ИИ-модель сгенерирует следующую ИИ-модель. Она будет экспоненциально умнее всех нас. Это сверхинтеллект», — сказал Сон, добавив, что компетенций инженеров уже будет недостаточно для того, чтобы разрабатывать последующие модели.
В OpenAI отказались комментировать текущие разработки, но подчеркнули области, где компания уже использует ИИ в разработке моделей. В феврале OpenAI заявила, что её GPT-5.3-Codex — это «первая модель, которая сыграла важную роль в своём собственном создании». Команда, стоящая за Codex, ИИ-моделью для программирования, «использовала ранние версии для отладки её собственного обучения, управления развёртыванием, диагностики результатов тестирования и оценок».
Масаёси Сон двумя годами ранее в рамках широкой дискуссии об искусственном сверхинтеллекте (Artificial Super Intelligence, ASI) заявлял, что такой ИИ будет в 10 000 раз умнее человека. Он прогнозировал, что ASI появится в течение десяти лет. Однако на этой неделе он заявил, что в своих прошлых оценках он «старался быть консервативным, потому что люди могут быть шокированы». «В моём представлении это должно было произойти через четыре года, а не через десять. Теперь я говорю, что это произойдёт в ближайшие два года», — сказал Сон в новом интервью.
Генеральный директор SoftBank заявил, что в настоящее время он использует ChatGPT от OpenAI два–три часа в день, поскольку ИИ умнее его в «большинстве областей». В ближайшие пару лет ИИ станут умнее человека примерно в 70–80 % областей, а в тех областях, где он превзойдёт человеческий интеллект, он «может быть в 10 раз умнее среднестатистического человека», считает Сон.
Сон уже несколько лет оптимистично оценивает перспективы ИИ. Он вывел SoftBank в центр этого бума благодаря владению компанией Arm, занимающейся разработкой микросхем, доле в OpenAI, а также инвестициям в такие области, как робототехника и автономное вождение. Он считает, что революция в области ИИ в 50 раз масштабнее, чем революция доткомов в 2000-х годах.
Риски интеграции сверхумных систем искусственного интеллекта привлекли внимание после того, как компания Anthropic опубликовала в своём блоге сообщение о «рекурсивном самосовершенствовании» (RSI) — тенденции, при которой система ИИ «способна полностью автономно проектировать и разрабатывать своего собственного преемника». Хотя Anthropic заявила о плюсах такой возможности, она также предупредила, что «полное рекурсивное самосовершенствование также может увеличить риск потери контроля над системами ИИ со стороны людей». Компания, разрабатывающая чат-бота ИИ Claude, заявила, что скоординированные усилия лабораторий ИИ по замедлению развития этой технологии «вероятно, пойдут на пользу».
В своём заявлении Сон не уточнил, имеет ли он ввиду RSI, говоря о новых ИИ-моделях OpenAI. Однако в опубликованной в этом месяце исследовательской работе OpenAI говорится о «ранних признаках» RSI в современных системах. «Мы ожидаем, что это усилит конкурентное давление среди разработчиков и стран, а также создаст проблемы управления, с которыми существующие институты не в состоянии справиться. По мере развития RSI обществу понадобятся способы формирования траектории развития ИИ и обеспечения того, чтобы он служил интересам человечества», — говорится в этой работе.
Источник:
