Сегодня 26 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google пытается вручную удалять вредные и странные ответы своего ИИ-поисковика

За последние дни в соцсетях появилось большое количество примеров того, как запущенный недавно ИИ-поисковик Google даёт странные ответы на пользовательские запросы: от рекомендации добавить клей в пиццу до предложения съесть камни. На этом фоне Google вручную отключает функцию обзоров с помощью ИИ для определённых запросов, поэтому многие странные ответы поисковика исчезают в скором времени.

 Источник изображений: Pixabay

Источник изображений: Pixabay

Эта ситуация выглядит странно, поскольку Google уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошлого года и гендиректор Google Сундар Пичаи (Sundar Pichai) говорил, что за это время она обработало более миллиарда запросов. Вместе с этим Пичаи заявил, что за период тестирования удалось на 80 % снизить стоимость предоставления ответов с помощью ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта оптимизация была проведена слишком рано, ещё до того, как технология была готова к коммерческому использованию.

Google продолжает настаивать на том, что ИИ-поисковик компании в большинстве случаев предоставляет пользователям «высококачественную информацию». «Многие из примеров, которые мы видели, связаны с нестандартными запросами, и мы также видели примеры, которые были сфальсифицированы или которые нам не удалось воспроизвести», — сообщил представитель Google. Он также подтвердил, что компания предпринимает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некоторые из которых «уже начали внедряться».

Эксперт по искусственному интеллекту и профессор Нью-Йоркского университета Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность созданных ими алгоритмов увеличится с 80 % до 100 %. По словам Маркуса, достигнуть точности в 80 % относительно просто, поскольку для этого необходимо обучить алгоритм на большом объёме уже существующих данных. Однако сделать алгоритм ещё точнее на 20 % является чрезвычайно сложной задачей. Специалист отметил, что алгоритм должен «рассуждать», насколько правдоподобна та или иная информация и источники, т.е. вести себя подобно тому, как это делал бы человек, проверяющий факты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новый крупный патч добавил в Warhammer 40,000: Space Marine 2 режим «Осада» с бесконечными волнами тиранидов и еретиков 10 мин.
ИИ-поиск добрался до YouTube — в выдаче появились сгенерированные ИИ рекомендации и тексты 33 мин.
Конец эпохи: Microsoft «похоронила» синий экран смерти в Windows 11 2 ч.
В Steam стартовала летняя распродажа с «морем скидок на игры всех жанров» 2 ч.
Легендарный сценарист Крис Авеллон присоединился к работе над амбициозной фэнтезийной RPG про борьбу с тоталитарным режимом 3 ч.
Продажи кооперативной игры Peak от авторов Content Warning и Another Crab's Treasure достигли новой вершины — два миллиона за девять дней 7 ч.
VK Tech представил Private Cloud Light — альтернативу зарубежным платформам виртуализации 8 ч.
ИИ-приложения теперь можно создавать прямо в чате с ботом Claude AI 8 ч.
«Мы возводили стены, а должны были строить мосты»: на PS5 вышла Death Stranding 2: On the Beach, а Кодзима опубликовал финальный трейлер игры 10 ч.
Обучать ИИ на онлайн-библиотеках законно — так решил суд в деле авторов книг против Meta 10 ч.
«Аквариус» передал в залог структуре «Сбера» доли в двух компаниях 37 мин.
Xiaomi представила компактный планшет Redmi K Pad на флагманском процессоре по цене от $390 41 мин.
Хiaomi представила открытые наушники OpenWear Stereo Pro с пятью динамиками за $139 2 ч.
Китайская Loongson представила серверные процессоры 3C6000 — до 64 ядер и производительность Xeon четырёхлетней давности 2 ч.
Такого кризиса ещё не было: кадровый голод в производстве чипов достигнет миллиона специалистов к 2030 году 2 ч.
Xiaomi представила фитнес-браслет Smart Band 10 с автономностью до 21 дня и ценой от $37,5 2 ч.
Xiaomi представила смарт-очки AI Glasses с камерой Sony, чипом Snapdragon и автономностью выше 8 часов за $280 4 ч.
Xiaomi представила Redmi K80 Ultra: самый мощный MediaTek, батарея на 7410 мА·ч и лишь двойная камера — от $360 4 ч.
Xiaomi представила раскладушку Mix Flip 2 с чипом Snapdragon 8 Elite, ёмкой батареей и двумя камерами Leica за $835 4 ч.
Представлен Vivo X200 FE — компактный флагман с камерой Zeiss для поколения Z 5 ч.