ИИ-поиск Google не смог правильно посчитать буквы в слове Google

Управляющая поисковой машиной модель искусственного интеллекта Google оказалась неспособна распознавать и считать буквы в словах. Так, в слове «Google» она насчитала две буквы «P». И это не единственная её ошибка подобного рода, пишет TechCrunch.

Общественность без энтузиазма восприняла масштабное обновление поискового сервиса Google, и уже не в первый раз. Раньше Google оказалась предметом насмешек, сатиры и пародий, когда «Обзоры от ИИ» начали советовать пользователям есть камни и мазать пиццу клеем — здесь и пародировать ничего не надо. Но в самой компании считают подобные ошибки закономерными. «Подсчёт [букв] в словах — известная проблема для больших языковых моделей, и мы работаем над решением этой конкретной проблемы», — заявили в компании.

Большие языковые модели, лежащие в основе чат-ботов и других генераторов текста, не предназначаются для анализа орфографии. Они могут писать предложения за считанные секунды и решать математические задачи, которые десятилетиями ставят учёных в тупик, но по уровню правописания едва ли превосходят детсадовца. Иногда у них возникают трудности с интерпретацией смыслов: недавно стало известно, что поисковый ИИ Google воспринимает слово «игнорируй» не как запрос, а как команду.

ИИ не воспринимает предложения как языковые единицы, состоящие из слов и букв. Чат-боты преимущественно строятся на моделях-трансформерах, которые разбивают текст на токены — слова, слоги и буквы — они не читают как человек, а преобразуют текст в собственные числовые представления и учитывают контекст, чтобы выдать логичный ответ. Речь идёт об ограничениях на уровне архитектуры, и исследователи не дают оптимистических прогнозов по поводу решения проблемы с орфографией. Приоритет задачи к тому же невысок: полезность большой языковой модели не состоит в её способности писать правильно. Эти недостатки помогают человеку понять, что ИИ не идеален, даже если он иногда кажется всезнающей машиной, уровень которой недостижим для человека. Поэтому нельзя доверять ответам ИИ вслепую.