Сегодня 13 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google пытается вручную удалять вредные и странные ответы своего ИИ-поисковика

За последние дни в соцсетях появилось большое количество примеров того, как запущенный недавно ИИ-поисковик Google даёт странные ответы на пользовательские запросы: от рекомендации добавить клей в пиццу до предложения съесть камни. На этом фоне Google вручную отключает функцию обзоров с помощью ИИ для определённых запросов, поэтому многие странные ответы поисковика исчезают в скором времени.

 Источник изображений: Pixabay

Источник изображений: Pixabay

Эта ситуация выглядит странно, поскольку Google уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошлого года и гендиректор Google Сундар Пичаи (Sundar Pichai) говорил, что за это время она обработало более миллиарда запросов. Вместе с этим Пичаи заявил, что за период тестирования удалось на 80 % снизить стоимость предоставления ответов с помощью ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта оптимизация была проведена слишком рано, ещё до того, как технология была готова к коммерческому использованию.

Google продолжает настаивать на том, что ИИ-поисковик компании в большинстве случаев предоставляет пользователям «высококачественную информацию». «Многие из примеров, которые мы видели, связаны с нестандартными запросами, и мы также видели примеры, которые были сфальсифицированы или которые нам не удалось воспроизвести», — сообщил представитель Google. Он также подтвердил, что компания предпринимает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некоторые из которых «уже начали внедряться».

Эксперт по искусственному интеллекту и профессор Нью-Йоркского университета Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность созданных ими алгоритмов увеличится с 80 % до 100 %. По словам Маркуса, достигнуть точности в 80 % относительно просто, поскольку для этого необходимо обучить алгоритм на большом объёме уже существующих данных. Однако сделать алгоритм ещё точнее на 20 % является чрезвычайно сложной задачей. Специалист отметил, что алгоритм должен «рассуждать», насколько правдоподобна та или иная информация и источники, т.е. вести себя подобно тому, как это делал бы человек, проверяющий факты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Петя вернулся: обнаружен опасный вирус-вымогатель HybridPetya, который обходит UEFI Secure Boot 57 мин.
Руководитель по разработке ИИ покинет Apple на фоне массового ухода сотрудников к конкурентам 6 ч.
Стартап xAI успел за один день уволить 500 сотрудников и объявить о планах увеличить команду в 10 раз 8 ч.
Китайская Tencent увела топ-учёного из OpenAI — цена вопроса $14 млн 15 ч.
Сегодня в России отмечается День программиста 15 ч.
Новая статья: Hollow Knight: Silksong — песнь страданий и радостей. Рецензия 21 ч.
Вся классика серии в одном наборе: ретросборник Mortal Kombat: Legacy Kollection получил новый трейлер и дату выхода 22 ч.
«Британская энциклопедия» подала в суд на Perplexity за копирование текстов 22 ч.
Dying Light: The Beast не выйдет 19 сентября — игра станет доступна на день раньше 24 ч.
Первый патч для Hollow Knight: Silksong вышел раньше времени — он сделал игру чуть проще и устранил полезную лазейку 12-09 20:21
Shell изобрела эликсир быстрой зарядки — с ним зарядить электромобиль можно всего за 10 минут 3 ч.
Apple опубликовала цены на ремонт iPhone Air: порадовать нечем 3 ч.
В свежем топ-10 самых продаваемых смартфонов оказалось пять iPhone, четыре Galaxy и Xiaomi Redmi 14C 4 ч.
Китайские учёные запихнули ДНК в кассету и создали накопитель нового поколения ёмкостью до 36 Пбайт 5 ч.
Nintendo воскресила провальную VR-консоль Virtual Boy из 1995 года, но теперь это аксессуар для Switch 5 ч.
Облачные Mac'и с Nitro: AWS запустила инстансы EC2 M4 Mac и M4 Pro Mac 7 ч.
Затраты на строительство дата-центров в США бьют рекорды 7 ч.
Microsoft расширит вычислительные мощности для обучения собственных ИИ-моделей 7 ч.
Разработана технология производства сверхминиатюрных чипов с использованием B-EUV-литографии 8 ч.
Власти США добавили в «чёрный список» две китайские компании, через которые SMIC обходила санкции 13 ч.