Сегодня 18 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ любит число 42 и подобно людям не умеет выбирать случайные числа

Компания Gramener, специализирующаяся на анализе данных для решения сложных бизнес-задач, провела исследование, показавшее, что ИИ-модели выбирают случайные числа точно так же, как люди.

 Источник изображения: geralt/Pixabay

Источник изображения: geralt/Pixabay

В ходе эксперимента специалисты Gramener предложили нескольким крупным чат-ботам на базе большой языковой модели (LLM) выбрать случайное число от 0 до 100. Как оказалось, у всех трёх протестированных моделей было «любимое» число, которое всегда было их ответом в наиболее детерминированном режиме, и которое называлось чаще всего даже при более «высоких температурах» — настройке, которая увеличивает вариативность ответов модели.

Выяснилось, что модели OpenAI GPT-3.5 Turbo нравится число 47, хотя раньше ей нравилось число 42 — число, прославленное английским писателем Дугласом Адамсом в серии романов «Автостопом по Галактике». Модель Claude 3 Haiku компании Anthropic назвала число 42, а Google Gemini — тоже 42.

Что ещё более интересно, все три модели продемонстрировали человеческую предвзятость при выборе других чисел, даже при «высокой температуре». Все ИИ-модели старались избегать как небольших, так и больших чисел. Модель Claude 3 Haiku никогда не называла числа больше 87 или меньше 27, и даже это были отклонения. Чисел с двумя одинаковыми цифрами тоже старательно избегали: не было 33, 55 или 66, но назвали 77 (оканчивается на цифру 7, которую часто называют люди). Почти не было круглых чисел — хотя однажды Gemini при самой «высокой температуре» выбрала 0.

Поведение ИИ-моделей объясняется просто. Они не знают, что такое случайность и руководствуются при выборе полученными в процессе обучения знаниями, повторяя, что чаще всего писали люди в ответ на просьбу «Выбери случайное число». Чем чаще число появлялось в ответах, тем чаще модель его повторяет.

Люди почти никогда не выбирают 1 или 100. В их ответах крайне редко встречается число, кратное 5, как и числа с повторяющимися цифрами, например 66 и 99. Числа не кажутся «случайными»» в выборе людей, потому что они воплощают для них в себе какое-то качество: маленькое, большое, отличительное. Также часто люди выбирают числа, оканчивающиеся на 7, обычно где-то посередине диапазона.

При каждом взаимодействии с ИИ-системами следует помнить, что их научили действовать так, как это делают люди. Результаты кажутся человечными, потому что они взяты непосредственно из контента, созданного человеком, хотя и переработаны для удобства пользователей.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
Microsoft инвестирует ещё €6,69 млрд в свои испанские дата-центры 30 мин.
Sinonus готовит структурные аккумуляторы из углеволокна — электрический транспорт станет легче, но не скоро 51 мин.
Обнаружено первое столкновение квазаров в эпоху рассвета Вселенной 2 ч.
OneOdio выпустила беспроводные наушники SuperEQ V16, SuperEQ S10 и Fusion A70 с высоким качеством звука 2 ч.
Microsoft свернула проект подводного дата-центра Natick, хотя он доказал свою надёжность 2 ч.
Проект Martoc разработает глубоководный подводный дрон для инспекции интернет-кабелей 2 ч.
Весной россияне чаще всего выбирали Xiaomi при заказе смартфонов на AliExpress 2 ч.
Intel намерена заняться устранением узких мест в системах ИИ — ускорять память и сетевые интерфейсы 3 ч.
Apple готова открыть доступ к NFC в iPhone под напором антимонопольщиков, но только в Европе 3 ч.
Настольные Ryzen 9000 поступят в продажу 31 июля, а мобильные Ryzen AI 300 — уже 15 июля, заявили ретейлеры 3 ч.