Сегодня 22 февраля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Интеллектуальные способности ChatGPT деградировали из-за попыток его улучшить, выяснили учёные

Учёные сообщили об очередной проблеме, которая может преследовать чат-боты, основанные на платформах искусственного интеллекта — этот феномен называется «дрейфом» (drift), и он отражает деградацию интеллектуальных способностей системы.

 Источник изображения: D koi / unsplash.com

Источник изображения: D koi / unsplash.com

Дебютировавший в прошлом году ChatGPT произвёл настоящую революцию в области искусственного интеллекта и даже косвенно способствовал разразившейся в Голливуде забастовке сценаристов. Но опубликованное учёными Стэнфордского университета и Калифорнийского университета в Беркли (США) исследование указывает на новую проблему ИИ: ChatGPT стал хуже выполнять некоторые элементарные математические операции. Этот феномен известен как «дрейф»: попытка усовершенствовать одну часть сложной модели ИИ приводит к ухудшению работы других её областей. И это, отмечают исследователи, значительно усложняет непрерывное совершенствование нейросетей.

Учёные пришли к такому выводу, когда протестировали две версии GPT: доступную для всех бесплатно 3.5; и 4.0, работать с которой можно только при наличии платной подписки. Чат-боту предложили элементарную задачу: определить, является ли определённое число простым. Простым, напомним, называется натуральное число, которое делится только на единицу и на себя. Если число достаточно большое, то человек не может оценить, является ли оно простым, в уме. А вот компьютер может справиться с этой задачей методом грубой силы: проверить его делимость на 2, 3, 5 и т. д. Основу теста составила выборка из 1000 чисел. В марте доступный по премиум-подписке GPT-4 давал правильные ответы в 84 % случаев, и это уже сомнительный результат для компьютера, но к июню доля правильных ответов рухнула до 51 %.

 Источник изображения: wsj.com

Источник изображения: wsj.com

В общем случае GPT-4 продемонстрировал деградацию в шести задачах из восьми. GPT-3.5, напротив, по шести задачам продемонстрировал прогресс, но в большинстве остался слабее своего продвинутого собрата. Повышение числа неправильных ответов отметили многие пользователи чат-ботов, и, согласно выводам учёных Стэнфорда и Беркли, это не субъективные ощущения — деградация подтверждается эмпирическими данными. «Когда мы выпускаем новые версии моделей, наш приоритет — сделать новые модели умнее по всем направлениям. Мы прилагаем усилия, чтобы новые версии совершенствовались во всём спектре задач. При этом наша методология оценки несовершенна, и мы её постоянно улучшаем», — прокомментировали научную работу в OpenAI.

О тотальной деградации моделей ИИ речи не идёт: в ряде тестов менее точный в целом GPT-3.5 показал прогресс, а GPT-4 свои результаты ухудшил. Помимо математических задач, исследователи предлагали чат-ботам ответить на 1500 вопросов. И если в марте чат-бот на базе GPT-4 отвечал на 98 % вопросов, то в июне давал ответы только на 23 %, и зачастую они оказывались слишком короткими: ИИ заявлял, что вопрос был субъективным, и собственного мнения у него нет.

Учёные Стэнфорда и Беркли говорят, что в своём исследовании они не призывают отказаться от технологий ИИ — это скорее пристальное наблюдение за их динамикой. Человек привык воспринимать знания как решение ряда задач, где каждая последующая основывается на предыдущей. В случае с ИИ схема оказывается другой: одному шагу вперёд соответствует шаг назад или в другом непредсказуемом направлении. ИИ-сервисы, вероятно, продолжат развиваться, но их путешествие будет проходить не по прямой линии.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
«Кто позволил Илону Маску выбирать имя?»: Riot раскрыла окончательное название файтинга Project L, и фанаты ему не рады 9 мин.
Дорого, масштабно, но не без проблем: Final Fantasy VII Rebirth получила первые оценки критиков 50 мин.
Инсайдер: в Skull and Bones сыграло 850 тысяч человек, но это с учётом бесплатной пробной версии 3 ч.
Хидетака Миядзаки допустил выход ремейка Bloodborne 4 ч.
Опубликована инструкция по возврату средств для владельцев кошельков QIWI 6 ч.
«Яндекс» остался самой дорогой интернет-компанией России по версии Forbes 6 ч.
Создатели игр для Roblox в 2023 году заработали рекордные $741 млн, но есть нюанс 8 ч.
Google будет обучать ИИ на постах с Reddit — это обойдётся ей в $60 млн в год 8 ч.
Galaxy S23 и некоторые другие устройства Samsung получат ИИ-функции Galaxy AI в марте 8 ч.
Срок заключения Prison Architect 2 в разработке продлили на полтора месяца — игра не выйдет 26 марта 9 ч.
Xiaomi представила флагманский планшет Pad 6S Pro 12.4 с процессором Snapdragon 8 Gen 2 и до 16 Гбайт оперативной памяти 2 ч.
Sony анонсировала официальную поддержку PlayStation VR2 на ПК с Windows 2 ч.
Британцы ускорили изготовление рабочих камер для малых ядерных реакторов с года до суток 2 ч.
Вышел смартфон Xiaomi 14 Pro Titanium Special Edition с двухсторонней спутниковой связью и титановым корпусом за $973 3 ч.
NVIDIA установила абсолютный мировой рекорд, всего за день подорожав на $230 млрд 3 ч.
Австралийское Минобороны представило мощный суперкомпьютер Taingiwilta, не сказав о нём практически ни слова 4 ч.
Клиенты NVIDIA уже начали тестировать антисанкционные ИИ-ускорители для Китая 4 ч.
Представлен флагман Xiaomi 14 Ultra — двухсторонняя спутниковая связь, передовая камера Leica и не только 5 ч.
Samsung представила фитнес-браслет Galaxy Fit3 с большим экраном и автономностью на 13 дней 5 ч.
Google продала более 10 млн смартфонов Pixel в прошлом году и планирует повторить успех 5 ч.