Сегодня 19 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google пытается вручную удалять вредные и странные ответы своего ИИ-поисковика

За последние дни в соцсетях появилось большое количество примеров того, как запущенный недавно ИИ-поисковик Google даёт странные ответы на пользовательские запросы: от рекомендации добавить клей в пиццу до предложения съесть камни. На этом фоне Google вручную отключает функцию обзоров с помощью ИИ для определённых запросов, поэтому многие странные ответы поисковика исчезают в скором времени.

 Источник изображений: Pixabay

Источник изображений: Pixabay

Эта ситуация выглядит странно, поскольку Google уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошлого года и гендиректор Google Сундар Пичаи (Sundar Pichai) говорил, что за это время она обработало более миллиарда запросов. Вместе с этим Пичаи заявил, что за период тестирования удалось на 80 % снизить стоимость предоставления ответов с помощью ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта оптимизация была проведена слишком рано, ещё до того, как технология была готова к коммерческому использованию.

Google продолжает настаивать на том, что ИИ-поисковик компании в большинстве случаев предоставляет пользователям «высококачественную информацию». «Многие из примеров, которые мы видели, связаны с нестандартными запросами, и мы также видели примеры, которые были сфальсифицированы или которые нам не удалось воспроизвести», — сообщил представитель Google. Он также подтвердил, что компания предпринимает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некоторые из которых «уже начали внедряться».

Эксперт по искусственному интеллекту и профессор Нью-Йоркского университета Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность созданных ими алгоритмов увеличится с 80 % до 100 %. По словам Маркуса, достигнуть точности в 80 % относительно просто, поскольку для этого необходимо обучить алгоритм на большом объёме уже существующих данных. Однако сделать алгоритм ещё точнее на 20 % является чрезвычайно сложной задачей. Специалист отметил, что алгоритм должен «рассуждать», насколько правдоподобна та или иная информация и источники, т.е. вести себя подобно тому, как это делал бы человек, проверяющий факты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Cast n Chill — вы, сэр, рыба. Рецензия 6 ч.
Кооперативный боевик Contraband от создателей Just Cause всё ещё жив, но оказался игрой-сервисом 8 ч.
Meta отказалась соблюдать «чрезмерные» правила разработки ИИ, предложенные ЕС 9 ч.
Microsoft уличили в допуске китайцев к секретным облачными системами Пентагона 9 ч.
Microsoft передумала упрощать системный трей Windows 11 после негативных отзывов пользователей 9 ч.
Legacy of the Forge «уже не за горами» — Warhorse раскрыла, когда ждать новостей о втором дополнении к Kingdom Come: Deliverance 2 10 ч.
Перевод на русский, Denuvo и первые детали геймплея: Persona 4 Revival получила страницу в Steam 11 ч.
Netflix призналась, что начала использовать ИИ при создании сериалов 12 ч.
Фэнтезийная 4X-стратегия Endless Legend 2 от создателей Humankind не выйдет 7 августа в раннем доступе Steam, но есть и хорошая новость 13 ч.
iOS 26 защитит пользователей iPhone от телефонных спамеров 13 ч.
Углеродные выбросы Amazon выросли в 2024 году на 6 % из-за ИИ ЦОД и любителей шопинга 6 ч.
Австрийцы упаковали электромобильный аккумулятор в корпус из дерева и стали 9 ч.
В Роттердаме запустят беспилотные рейсовые автобусы между городом и аэропортом 9 ч.
Asus представила материнскую плату ROG Strix X870-H Gaming WiFi7 S с ярким аниме-дизайном 10 ч.
ASRock представила плату X870E Taichi OCF для экстремального разгона Ryzen 9000 и другие новинки с AM5 12 ч.
США намерены ослабить влияние Китая на подводную интернет-инфраструктуру, но у них это вряд ли получится 13 ч.
Российские учёные создали фотонный детектор с «обонянием» — он учует опасные газы в воздухе, диабет и алкогольную вечеринку 14 ч.
Передовые твердотельные батареи в электромобилях появятся в лучшем случае через пять лет 14 ч.
В России впервые запущено производство особо чистого тетрахлорида германия для выпуска оптоволокна 16 ч.
Китайский охотник за астероидами испытал камеры на Земле и Луне — и поделился впечатляющими снимками 17 ч.