Сегодня 26 сентября 2023
18+
MWC 2018 2018 Computex IFA 2018
Новости Software

Чат-боты Google и Microsoft начали ссылаться друг на друга, плодя фейки

Если сейчас спросить чат-бот Microsoft Bing, был ли закрыт чат-бот Google Bard, он ответит «нет», хотя ещё пару часов назад ответ был противоположным. Microsoft утверждал о закрытии конкурента, ссылаясь в качестве доказательства на новостную статью о твите, в котором рассказывается о том, как пользователь спросил Bard, когда он будет закрыт, и Bard ответил, что уже закрыт, ссылаясь на комментарий с Hacker News, в котором кто-то пошутил, что это произошло, а кто-то другой использовал ChatGPT для написания фейковой новости об этом событии.

 Источник изображения: Pixabay

Источник изображения: Pixabay

То, что чат-бот Microsoft Bing теперь исправил свою ошибку можно интерпретировать по-разному: или как демонстрацию возможности быстрой корректировки генеративного ИИ, или что системы на базе ИИ настолько бесконечно изменчивы, что становится привычным получать сообщения об их очередных ошибках.

Описанная ситуация — ранний признак масштабных мистификаций и дезинформаций, исходящих от искусственного интеллекта, который не может адекватно оценивать надёжные источники новостей, неправильно воспринимает истории о себе и ошибочно информирует пользователя о собственных возможностях. В данном случае всё началось из-за одного шутливого комментария на Hacker News. Трудно представить последствия в случае продуманной и преднамеренной попытки вывести чат-боты из строя.

Это смехотворная ситуация, но с потенциально серьёзными последствиями. Учитывая неспособность языковых моделей ИИ надёжно отличать факты от вымысла, их широкое применение грозит оставить за собой шлейф дезинформации и недоверия, информационные провокации, которые невозможно полностью подтвердить или авторитетно опровергнуть. Всё потому, что Microsoft, Google и OpenAI решили, что доля рынка важнее безопасности.

Эти компании могут размещать сколько угодно заявлений об отказе от ответственности в своих чат-ботах, утверждая, что это просто «эксперимент», а не полноценная поисковая система, но уже описаны множественные случаи распространения дезинформации чат-ботами на базе ИИ. А теперь они ещё и начали ссылаться на ошибки друг друга…

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Solidigm представила заменитель Optane — SSD на памяти SLC, которую давно никто не выпускает 39 мин.
TSMC ускорила расширение мощностей по упаковке чипов, необходимых для выпуска ИИ-чипов NVIDIA 2 ч.
CMF by Nothing выпустил первые продукты — доступные беспроводные наушники, смарт-часы и GaN-зарядку 2 ч.
Представлены флагманы Xiaomi 13T и 13T Pro с камерами Leica, очень яркими экранами AMOLED и ценой от €649 2 ч.
Huawei продолжила закупать импортную память в обход санкций, так как китайская не удовлетворяет её требованиям 3 ч.
К российской «дочке» HPE подали новые крупные иски на сотни миллионов рублей 3 ч.
MSI представила видеокарты GeForce RTX 4070, RTX 4070 Ti и RTX 4090 в исполнении Ventus Essential 4 ч.
ASML откроет в Японии центр технической поддержки, что поможет Rapidus в освоении 2-нм техпроцесса 4 ч.
В октябре пройдут затмения Солнца и Луны — россияне смогут наблюдать одно из них 5 ч.
Ford заморозила строительство завода в Мичигане за $3,5 млрд, на котором планировала выпускать тяговые батареи по технологиям CATL 5 ч.