Сегодня 05 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Галлюцинации у моделей ИИ случаются реже, чем у людей, заявил глава Anthropic

Современные модели искусственного интеллекта демонстрируют галлюцинации, то есть дают заведомо не соответствующие действительности ответы на вопросы, реже, чем люди. Такое заявление сделал гендиректор Anthropic Дарио Амодеи (Dario Amodei) на проводимой компанией конференции Code with Claude.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Галлюцинации, по мнению господина Амодеи, не являются препятствием к разработке сильного ИИ (Artificial General Intelligence — AGI), то есть системы, сравнимой по уровню развития с человеком. «На самом деле всё зависит от подхода, но у меня есть подозрения, что модели ИИ, вероятно, галлюцинируют реже, чем люди, но галлюцинируют они более удивительным образом», — заявил глава Anthropic ресурсу TechCrunch. Дарио Амодеи относится к числу оптимистов в отрасли ИИ. В его прошлогодней статье говорится, что AGI может появиться уже в 2026 году. Поводов отказаться от этой позиции он не нашёл и накануне — по его мнению, в этом направлении наблюдается устойчивый прогресс, и «вода поднимается повсюду». «Все и всегда ищут эти жёсткие ограничения на то, что может делать [ИИ]. Их не видно нигде. Нет такого», — уверен гендиректор Anthropic.

С ним согласны не все. Глава подразделения Google DeepMind Демис Хассабис (Demis Hassabis) на этой неделе заявил, что у сегодняшних моделей ИИ слишком много «дыр», и эти модели дают неправильные ответы на слишком большое число очевидных вопросов. А адвокат самой Anthropic в этом месяце был вынужден извиняться за то, что использованный компанией для составления иска чат-бот Claude указал в цитатах неверные имена и должности. Проверить утверждение господина Амодеи непросто: в большинстве тестов на галлюцинации модели сравниваются друг с другом, а не с человеком. В отдельных случаях число таких проявлений удаётся снизить, открывая чат-ботам доступ к веб-поиску; а OpenAI GPT-4.5 значительно снизила процент галлюцинаций по сравнению с моделями предыдущих поколений. С другой стороны, рассуждающие модели OpenAI o3 и o4-mini, как стало известно ранее, дают не соответствующие действительности ответы чаще, чем предшественники, и пока не удалось установить, почему.

Телеведущие, политики и вообще люди всех профессий совершают ошибки постоянно, указал Дарио Амодеи, и тот факт, что их совершает также ИИ, не может выступать аргументом для критики его способностей. Но, признал он, уверенность, с которой ИИ выдаёт вымысел за факты, может обернуться проблемой. Anthropic уже неоднократно изучала склонность моделей ИИ обманывать людей. Исследовательский институт Apollo Research, которому предоставили ранний доступ к Claude Opus 4, установил, что модель имеет значительные склонности к интригам и обману, и порекомендовала Anthropic отозвать её — разработчик заявил, что принял некоторые меры, которые смягчили выявленные проблемы.

Заявление главы Anthropic свидетельствует, что компания может признать за достаточно развитой моделью ИИ уровень AGI, даже если она не избавилась от галлюцинаций, но некоторые эксперты такую позицию отвергают.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Нам есть что рассказать»: глава MachineGames подтвердил планы на Wolfenstein 3 2 ч.
Bethesda опубликовала загадочный тизер в честь двухлетия Starfield — фанаты углядели в нём название второго сюжетного дополнения 3 ч.
Microsoft Copilot научился создавать сводки по файлам и документам из облака OneDrive 4 ч.
«Красиво, страшно, залипательно»: хоррор Cronos: The New Dawn от авторов ремейка Silent Hill 2 стартовал в Steam с «очень положительными» обзорами 4 ч.
VI Форум «Мой бизнес» в Архангельске: малый бизнес, цифровизация и новые правила 6 ч.
После выхода Hollow Knight: Silksong самой желанной игрой пользователей Steam стала скандальная Subnautica 2 6 ч.
Apple обвинили в нарушении патентов на технологию «Привет, Siri» 6 ч.
«Внушает оптимизм»: журналисты раскрыли, когда выйдут первые обзоры Ghost of Yotei 7 ч.
Россиянам вернут важнейшие сервисы во время отключений мобильного интернета 8 ч.
Microsoft уберёт Teams из пакета офисных приложений, чтобы избежать штрафа в ЕС 10 ч.
Karri Messenger позволит детям безопасно общаться с родителями и друзьями при помощи голосовых сообщений 3 ч.
Qualcomm и BMW представили систему автономного вождения, которую будут продавать на сторону 4 ч.
Huawei заняла почти половину мирового рынка складных смартфонов — Samsung даже не вторая по популярности 4 ч.
На IFA 2025 показали пауэрбанк, который работает даже с пробитой батареей 6 ч.
Tesla предложила Илону Маску до $1 трлн за десять лет работы гендиректором 6 ч.
Mitsubishi Heavy Industries удвоит производство газовых турбин в связи с ростом индустрии ЦОД 6 ч.
Сверхтонкий 5,9-мм смартфон Nubia Air получил 6,78″ AMOLED-экран и защиту IP69K 7 ч.
Lenovo представила мобильные рабочие станции ThinkPad P с процессорами Core Ultra 200 и графикой Nvidia RTX Blackwell 7 ч.
Dreame представила свой дебютный монитор X1 Ultra 7 ч.
Team Group представила первый в мире внешний SSD со встроенной функцией геолокации 8 ч.