Сегодня 04 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Галлюцинации у моделей ИИ случаются реже, чем у людей, заявил глава Anthropic

Современные модели искусственного интеллекта демонстрируют галлюцинации, то есть дают заведомо не соответствующие действительности ответы на вопросы, реже, чем люди. Такое заявление сделал гендиректор Anthropic Дарио Амодеи (Dario Amodei) на проводимой компанией конференции Code with Claude.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Галлюцинации, по мнению господина Амодеи, не являются препятствием к разработке сильного ИИ (Artificial General Intelligence — AGI), то есть системы, сравнимой по уровню развития с человеком. «На самом деле всё зависит от подхода, но у меня есть подозрения, что модели ИИ, вероятно, галлюцинируют реже, чем люди, но галлюцинируют они более удивительным образом», — заявил глава Anthropic ресурсу TechCrunch. Дарио Амодеи относится к числу оптимистов в отрасли ИИ. В его прошлогодней статье говорится, что AGI может появиться уже в 2026 году. Поводов отказаться от этой позиции он не нашёл и накануне — по его мнению, в этом направлении наблюдается устойчивый прогресс, и «вода поднимается повсюду». «Все и всегда ищут эти жёсткие ограничения на то, что может делать [ИИ]. Их не видно нигде. Нет такого», — уверен гендиректор Anthropic.

С ним согласны не все. Глава подразделения Google DeepMind Демис Хассабис (Demis Hassabis) на этой неделе заявил, что у сегодняшних моделей ИИ слишком много «дыр», и эти модели дают неправильные ответы на слишком большое число очевидных вопросов. А адвокат самой Anthropic в этом месяце был вынужден извиняться за то, что использованный компанией для составления иска чат-бот Claude указал в цитатах неверные имена и должности. Проверить утверждение господина Амодеи непросто: в большинстве тестов на галлюцинации модели сравниваются друг с другом, а не с человеком. В отдельных случаях число таких проявлений удаётся снизить, открывая чат-ботам доступ к веб-поиску; а OpenAI GPT-4.5 значительно снизила процент галлюцинаций по сравнению с моделями предыдущих поколений. С другой стороны, рассуждающие модели OpenAI o3 и o4-mini, как стало известно ранее, дают не соответствующие действительности ответы чаще, чем предшественники, и пока не удалось установить, почему.

Телеведущие, политики и вообще люди всех профессий совершают ошибки постоянно, указал Дарио Амодеи, и тот факт, что их совершает также ИИ, не может выступать аргументом для критики его способностей. Но, признал он, уверенность, с которой ИИ выдаёт вымысел за факты, может обернуться проблемой. Anthropic уже неоднократно изучала склонность моделей ИИ обманывать людей. Исследовательский институт Apollo Research, которому предоставили ранний доступ к Claude Opus 4, установил, что модель имеет значительные склонности к интригам и обману, и порекомендовала Anthropic отозвать её — разработчик заявил, что принял некоторые меры, которые смягчили выявленные проблемы.

Заявление главы Anthropic свидетельствует, что компания может признать за достаточно развитой моделью ИИ уровень AGI, даже если она не избавилась от галлюцинаций, но некоторые эксперты такую позицию отвергают.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google изменит поиск под давлением ЕС: в топе выдачи теперь будут сайты конкурентов 10 мин.
Наследие 3dfx Interactive живёт: энтузиасты открыли дорогу к браузерной эмуляции культовых игр конца 90-х 32 мин.
Разработчики Subnautica 2 не объяснили внезапную смену руководства, но зато в игре не будет лутбоксов и боевых пропусков 3 ч.
Издатели пожаловались на Google в Еврокомиссию — они несут убытки от ИИ-обзоров в поиске 4 ч.
«Очень грустный день для одной из лучших гоночных игр»: бывший сотрудник Turn 10 прояснил судьбу Forza Motorsport после массовых увольнений в студии 4 ч.
Анонсирована Resident Evil: Survival Unit — это мобильная хоррор-стратегия на выживание от соавтора Kingdom Hearts 6 ч.
Способность ИИ к пониманию собственных слов оказалась «потёмкинской» 7 ч.
«Яндекс» обновил «Нейроэксперта» — ИИ научился рассуждать и анализировать сайты целиком 9 ч.
Продажи Rust на ПК превысили 20 млн копий — игра заслужила больше миллиона положительных обзоров в Steam 10 ч.
Исследование: поиск информации в Google может подавлять креативность 10 ч.
США хотят ограничить поставки ИИ-чипов в Малайзию и Таиланд, потому что оттуда они нелегально мигрируют в Китай 3 ч.
Разработчик RISC-V-чипов Codasip готов продаться — целиком или по частям 3 ч.
ИИ провоцирует резкие скачки потребления электроэнергии, что разрушает энергетическую инфраструктуру по всему миру 4 ч.
«Джеймс Уэбб» запечатлел яркое столкновение двух скоплений галактик 4 ч.
Большинство новейших видеокарт по-прежнему продаются с наценкой в 12–57 % — особенно GeForce RTX 5090 и 5080 4 ч.
Fairphone 6 получил высшую оценку ремонтопригодности от iFixit 6 ч.
TSMC отложила строительство второго завода чипов в Японии ради расширения производства в США 6 ч.
Геймер превратил Honda CR-V в игровой контроллер для Need for Speed Underground 7 ч.
Xbox, Surface и Windows превратились в отстой — и это часть плана самой Microsoft 8 ч.
«РТК-ЦОД» дополнила «Публичное облако» сервисом защиты сети на базе NGFW 9 ч.