Сегодня 06 декабря 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Генеративный ИИ не понимает устройство мира, показало исследование MIT

Генеративные ИИ-модели будоражат воображение руководителей многих компаний, обещая автоматизацию и замену миллионов рабочих мест. Однако учёные Массачусетского технологического института (MIT) предостерегают: ИИ хотя и даёт правдоподобные ответы, в действительности не обладает пониманием сложных систем и ограничивается предсказаниями. В задачах реального мира, будь то логические рассуждения, навигация, химия или игры, ИИ демонстрирует значительные ограничения.

 Источник изображения: HUNGQUACH679PNG / Pixabay

Источник изображения: HUNGQUACH679PNG / Pixabay

Современные большие языковые модели (LLM), такие как GPT-4, создают впечатление продуманного ответа на сложные запросы пользователей, хотя на самом деле они лишь точно предсказывают наиболее вероятные слова, которые следует поместить рядом с предыдущими в определённом контексте. Чтобы проверить, способны ли ИИ-модели действительно «понимать» реальный мир, учёные MIT разработали метрики, предназначенные для объективной проверки их интеллектуальных способностей.

Одной из задач эксперимента стала оценка способности ИИ к генерации пошаговых инструкций для навигации по улицам Нью-Йорка. Несмотря на то что генеративные ИИ в определённой степени демонстрируют «неявное» усвоение законов окружающего мира, это не является эквивалентом подлинного понимания. Для повышения точности оценки исследователи создали формализованные методы, позволяющие анализировать, насколько корректно ИИ воспринимает и интерпретирует реальные ситуации.

Основное внимание в исследовании MIT было уделено трансформерам — типу генеративных ИИ-моделей, используемых в таких популярных сервисах, как GPT-4. Трансформеры обучаются на обширных массивах текстовых данных, что позволяет им достигать высокой точности в подборе последовательностей слов и создавать правдоподобные тексты.

Чтобы глубже исследовать возможности таких систем, учёные использовали класс задач, известных как детерминированные конечные автоматы (Deterministic Finite Automaton, DFA), которые охватывают такие области, как логика, географическая навигация, химия и даже стратегии в играх. В рамках эксперимента исследователи выбрали две разные задачи — вождение автомобиля по улицам Нью-Йорка и игру в «Отелло», чтобы проверить способность ИИ правильно понимать лежащие в их основе правила.

Как отметил постдок Гарвардского университета Кейон Вафа (Keyon Vafa), ключевая цель эксперимента заключалась в проверке способности ИИ-моделей восстанавливать внутреннюю логику сложных систем: «Нам нужны были испытательные стенды, на которых мы точно знали бы, как выглядит модель мира. Теперь мы можем строго продумать, что значит восстановить эту модель мира».

Результаты тестирования показали, что трансформеры способны выдавать корректные маршруты и предлагать правильные ходы в игре «Отелло», когда условия задач точно определены. Однако при добавлении усложняющих факторов, таких как объездные пути в Нью-Йорке, ИИ-модели начали генерировать нелогичные варианты маршрутов, предлагая случайные эстакады, которых на самом деле не существовало.

Исследование MIT показало принципиальные ограничения генеративных ИИ-моделей, особенно в тех задачах, где требуется гибкость мышления и способность адаптироваться к реальным условиям. Хотя существующие ИИ-модели могут впечатлять своей способностью генерировать правдоподобные ответы, они остаются всего лишь инструментами предсказания, а не полноценными интеллектуальными системами.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Steam и на консолях без предупреждения вышел хоррор-шутер The Thing: Remastered по фильму «Нечто» — игроки в восторге от ремастера 5 мин.
Надёжный инсайдер рассекретил дату выхода Split Fiction — следующей игры от создателей It Takes Two и A Way Out 38 мин.
«Гвинт» из The Witcher 3: Wild Hunt скоро станет настоящей настольной игрой — первые подробности 2 ч.
«Группа Астра» купила «Платформу Боцман» — отечественного разработчика ПО для контейнеризации 7 ч.
Riot анонсировала настольную карточную игру по League of Legends — фанаты Legends of Runeterra возмущены 7 ч.
«Готов к экзистенциальному кризису»: Annapurna раскрыла дату выхода уютной игры с подвохом Wanderstop от создателя The Stanley Parable 8 ч.
Google упростил отключение персонализированных результатов поиска 9 ч.
Разработчик Turbo Overkill показал полноценный трейлер Total Chaos — ремейка мода, который превращал Doom 2 в хоррор на выживание 9 ч.
Google выпустила крупное обновление для Android 15 — улучшены субтитры, приложение Lookout и не только 10 ч.
Kingdom Come: Deliverance 2 получила эпичный сюжетный трейлер и системные требования — GTX 1060 всё ещё в деле 11 ч.
«Хаббл» впервые разглядел окрестности квазара и засёк там «капли» и огромную струю 2 ч.
Производство чипов Samsung увязло в кризисе: выручка обвалилась, хотя у всех конкурентов подскочила 4 ч.
xAI получил ещё $6 млрд инвестиций и приступил к расширению ИИ-кластера Colossus до 1 млн ускорителей 4 ч.
Asus представила геймерский 31,5-дюймовый монитор ROG Strix XG32UCG с поддержкой Full HD и 4K 4 ч.
МТС Web Services более чем вдвое увеличит ёмкость мега-ЦОД GreenBushDC 4 ч.
iGenius анонсировала Colosseum — один из мощнейших в мире ИИ-суперкомпьютеров на базе NVIDIA DGX GB200 SuperPod 5 ч.
Seasonic представила блоки питания Core GX ATX 3 мощностью до 1000 Вт 5 ч.
У Nvidia появились сильные конкуренты в сфере ИИ-ускорителей, но её ещё рано списывать со счетов 5 ч.
Broadcom придумала, как укладывать кристаллы на чипах так, чтобы  они работали быстрее 5 ч.
Пустующие линии PCIe займут SSD — к видеокарте Intel Arc B580 решили приделать пару слотов M.2 6 ч.