Сегодня 22 октября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google пытается вручную удалять вредные и странные ответы своего ИИ-поисковика

За последние дни в соцсетях появилось большое количество примеров того, как запущенный недавно ИИ-поисковик Google даёт странные ответы на пользовательские запросы: от рекомендации добавить клей в пиццу до предложения съесть камни. На этом фоне Google вручную отключает функцию обзоров с помощью ИИ для определённых запросов, поэтому многие странные ответы поисковика исчезают в скором времени.

 Источник изображений: Pixabay

Источник изображений: Pixabay

Эта ситуация выглядит странно, поскольку Google уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошлого года и гендиректор Google Сундар Пичаи (Sundar Pichai) говорил, что за это время она обработало более миллиарда запросов. Вместе с этим Пичаи заявил, что за период тестирования удалось на 80 % снизить стоимость предоставления ответов с помощью ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта оптимизация была проведена слишком рано, ещё до того, как технология была готова к коммерческому использованию.

Google продолжает настаивать на том, что ИИ-поисковик компании в большинстве случаев предоставляет пользователям «высококачественную информацию». «Многие из примеров, которые мы видели, связаны с нестандартными запросами, и мы также видели примеры, которые были сфальсифицированы или которые нам не удалось воспроизвести», — сообщил представитель Google. Он также подтвердил, что компания предпринимает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некоторые из которых «уже начали внедряться».

Эксперт по искусственному интеллекту и профессор Нью-Йоркского университета Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность созданных ими алгоритмов увеличится с 80 % до 100 %. По словам Маркуса, достигнуть точности в 80 % относительно просто, поскольку для этого необходимо обучить алгоритм на большом объёме уже существующих данных. Однако сделать алгоритм ещё точнее на 20 % является чрезвычайно сложной задачей. Специалист отметил, что алгоритм должен «рассуждать», насколько правдоподобна та или иная информация и источники, т.е. вести себя подобно тому, как это делал бы человек, проверяющий факты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ByteDance с треском уволила старжёра за внедрение вредоносного кода в ИИ-модели 39 мин.
Состоялся релиз российской платформы «Аксиома 3.0» для управления материальными активами предприятия 4 ч.
Для Vampire Survivors анонсировали «просто огромное» дополнение по мотивам «Кастлвании» — трейлер и подробности Ode to Castlevania 5 ч.
Календарь релизов 21 – 27 октября: CoD: Black Ops 6, No More Room in Hell 2 и Factorio: Space Age 6 ч.
Проверенный инсайдер сообщил, когда выйдут первые обзоры Dragon Age: The Veilguard 6 ч.
Нелинейная ролевая игра Dawnwalker от ведущих разработчиков The Witcher 3: Wild Hunt и Cyberpunk 2077 нашла издателя 7 ч.
«Не первый, но лучший»: Тим Кук объяснил отставание Apple в области ИИ и других инноваций 8 ч.
Midjourney запустит ИИ-редактор изображений 8 ч.
Анджей Сапковский подтвердил дату выхода следующей книги «Ведьмак» — первой за 11 лет 11 ч.
Надёжный инсайдер раскрыл, как будет называться новая кооперативная игра от создателей It Takes Two и когда её анонсируют 12 ч.
Super Flower представила серию блоков питания Zillion FG мощностью до 1250 Вт 60 мин.
Qualcomm представила самый быстрый мобильный процессор — 3-нм Snapdragon 8 Elite с компьютерными ядрами Oryon 2 ч.
Новая статья: Обзор складного смартфона HONOR Magic V3: тоньше некуда 2 ч.
Zotac опровергла информацию о начале производства видеокарты GeForce RTX 5090 3 ч.
Asus представила карту расширения ThunderboltEX 5 — она превращает PCIe 4.0 x4 в два Thunderbolt 5 и три mini-DP 3 ч.
Hyundai задумала полностью отказаться от экранов в автомобилях в пользу голограмм 4 ч.
Японская Ubitus, обслуживающая Nintendo и Sega, тоже захотела запитать новый ИИ ЦОД от АЭС 4 ч.
Qualcomm вот-вот представит Snapdragon 8 Elite — 3-нм процессор с ядрами Oryon и частотой до 4,3 ГГц 5 ч.
Анонсирован панорамный корпус DeepCool CG580 с поддержкой плат с разъёмами на изнанке от Asus и MSI 6 ч.
Ryzen 7 9800X3D заставили работать на частоте 5,6 ГГц у всех восьми ядер одновременно 6 ч.