Сегодня 06 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google пытается вручную удалять вредные и странные ответы своего ИИ-поисковика

За последние дни в соцсетях появилось большое количество примеров того, как запущенный недавно ИИ-поисковик Google даёт странные ответы на пользовательские запросы: от рекомендации добавить клей в пиццу до предложения съесть камни. На этом фоне Google вручную отключает функцию обзоров с помощью ИИ для определённых запросов, поэтому многие странные ответы поисковика исчезают в скором времени.

 Источник изображений: Pixabay

Источник изображений: Pixabay

Эта ситуация выглядит странно, поскольку Google уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошлого года и гендиректор Google Сундар Пичаи (Sundar Pichai) говорил, что за это время она обработало более миллиарда запросов. Вместе с этим Пичаи заявил, что за период тестирования удалось на 80 % снизить стоимость предоставления ответов с помощью ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта оптимизация была проведена слишком рано, ещё до того, как технология была готова к коммерческому использованию.

Google продолжает настаивать на том, что ИИ-поисковик компании в большинстве случаев предоставляет пользователям «высококачественную информацию». «Многие из примеров, которые мы видели, связаны с нестандартными запросами, и мы также видели примеры, которые были сфальсифицированы или которые нам не удалось воспроизвести», — сообщил представитель Google. Он также подтвердил, что компания предпринимает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некоторые из которых «уже начали внедряться».

Эксперт по искусственному интеллекту и профессор Нью-Йоркского университета Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность созданных ими алгоритмов увеличится с 80 % до 100 %. По словам Маркуса, достигнуть точности в 80 % относительно просто, поскольку для этого необходимо обучить алгоритм на большом объёме уже существующих данных. Однако сделать алгоритм ещё точнее на 20 % является чрезвычайно сложной задачей. Специалист отметил, что алгоритм должен «рассуждать», насколько правдоподобна та или иная информация и источники, т.е. вести себя подобно тому, как это делал бы человек, проверяющий факты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Детализация просто сумасшедшая»: 16-летний аниматор воссоздал второй трейлер GTA VI в стиле Lego, и фанаты в восторге 15 мин.
На Samsung Galaxy Watch появилось приложение «Яндекс Музыка» 2 ч.
Ремейк Persona 4 скоро выйдет из тени — журналисты рассекретили дату анонса 2 ч.
AMD продолжает шоппинг: компания купила стартап Brium для борьбы с доминированием NVIDIA 3 ч.
В открытый доступ попал релизный трейлер дополнения Lies of P: Overture — аддон выйдет со дня на день 3 ч.
Apple разработала ИИ, выявляющий нетипичные аспекты устной речи — это поможет диагностировать заболевания 4 ч.
ChatGPT научился получать доступ к Gmail, Outlook и «Google Диску» в реальном времени 4 ч.
Microsoft зарабатывает деньги каждый раз, когда кто-либо использует ChatGPT 4 ч.
Инсайдер раскрыл детали CoD: Modern Warfare 4, которая выйдет в 2026 году — игроков отправят в Корею предотвращать Третью мировую войну 4 ч.
В России хотят наказывать за DDoS-атаки крупным штрафом или тюремным заключением 4 ч.
Вышли обзоры «ужасной видеокарты для 1440p» — Radeon RX 9060 XT 8GB сильно отстала от старшей версии 4 ч.
AMD купила команду разработчика ИИ-чипов Untether AI, но не саму компанию, которая тут же закрылась 4 ч.
В этом году МТС отключит половину своих базовых станций 3G в России 7 ч.
Для создания российской космической станции «Роскосмос» заказал ещё три ракеты «Ангара-А5М» 8 ч.
Intel признала, что изначально разрабатывала ангстремные техпроцессы 18A и 14A для себя, а не сторонних заказчиков 8 ч.
После рекордного обвала акции Tesla пошли вверх, поскольку Трамп и Маск готовят примирение 9 ч.
Японский лунный аппарат Resilience с мини-луноходом долетел до Луны — и мгновенно разобрался 9 ч.
В Китае испытали сверхзащищённый канал уникальной квантовой связи с взлетающей ракетой 9 ч.
Huawei и XPeng представили гигантский 87-дюймовый проекционный дисплей для авто 10 ч.
Nvidia захватила 92 % рынка видеокарт, но Intel осталась лидером на рынке GPU 10 ч.