MWC 2018
2018
Computex
IFA 2018
Управляющая поисковой машиной модель искусственного интеллекта Google оказалась неспособна распознавать и считать буквы в словах. Так, в слове «Google» она насчитала две буквы «P». И это не единственная её ошибка подобного рода, пишет TechCrunch.
Источник изображения: techcrunch.com
Общественность без энтузиазма восприняла масштабное обновление поискового сервиса Google, и уже не в первый раз. Раньше Google оказалась предметом насмешек, сатиры и пародий, когда «Обзоры от ИИ» начали советовать пользователям есть камни и мазать пиццу клеем — здесь и пародировать ничего не надо. Но в самой компании считают подобные ошибки закономерными. «Подсчёт [букв] в словах — известная проблема для больших языковых моделей, и мы работаем над решением этой конкретной проблемы», — заявили в компании.
Большие языковые модели, лежащие в основе чат-ботов и других генераторов текста, не предназначаются для анализа орфографии. Они могут писать предложения за считанные секунды и решать математические задачи, которые десятилетиями ставят учёных в тупик, но по уровню правописания едва ли превосходят детсадовца. Иногда у них возникают трудности с интерпретацией смыслов: недавно стало известно, что поисковый ИИ Google воспринимает слово «игнорируй» не как запрос, а как команду.
ИИ не воспринимает предложения как языковые единицы, состоящие из слов и букв. Чат-боты преимущественно строятся на моделях-трансформерах, которые разбивают текст на токены — слова, слоги и буквы — они не читают как человек, а преобразуют текст в собственные числовые представления и учитывают контекст, чтобы выдать логичный ответ. Речь идёт об ограничениях на уровне архитектуры, и исследователи не дают оптимистических прогнозов по поводу решения проблемы с орфографией. Приоритет задачи к тому же невысок: полезность большой языковой модели не состоит в её способности писать правильно. Эти недостатки помогают человеку понять, что ИИ не идеален, даже если он иногда кажется всезнающей машиной, уровень которой недостижим для человека. Поэтому нельзя доверять ответам ИИ вслепую.
Источник:
