ИИ в поиске Google убедил людей, что дорожные камеры набиты золотом — началась волна вандализма

ИИ Google превратил фейк о камерах наблюдения Flock Safety в «технический факт»: алгоритм AI Overview в поиске утверждал, что в каждой такой автономной камере распознавания автомобильных номеров содержится 1–5 г золота, а также 0,9–10,4 кг меди. Тем самым только стоимость золота в одной камере оценивалась примерно в $650. ИИ элементарно не проверил, что масса самой камеры составляет 1,36 кг, и продолжил распространять недостоверную информацию, провоцируя случаи вандализма в отношении этих устройств.

История началась со скандалов, связанных с системой наблюдения Flock Safety. Сообщалось о злоупотреблениях, когда отдельные полицейские использовали систему для слежки в личных целях. Наконец, мало кому нравится чувствовать себя под постоянным контролем. На этом фоне возник фейк, поощряющий уничтожение камер компании, — утверждение о высоком содержании в них драгоценных металлов и даже меди. Это не первый и не последний фейк в интернете. Но в этот раз у нас был ИИ, который без проверки подхватил недостоверную информацию и начал самостоятельно распространять её.

На самом деле золото в такой электронике действительно присутствует, но лишь в следовых количествах — главным образом в покрытиях контактов, разъёмов и отдельных элементов печатных плат. То же относится и к меди: она используется в проводниках и дорожках печатных плат, однако её количество ничтожно мало. После публикации этой истории Google изменил AI Overview: теперь поиск предупреждает, что рассказы о граммах извлекаемого золота и килограммах меди — это чья-то шутка и результат галлюцинаций ИИ, а реальное содержание драгоценных металлов сопоставимо с тем, что характерно для обычной компактной электроники, — микрограммы или около того.

История с «золотыми камерами» стала очередным характерным примером повторения и распространения генеративным ИИ недостоверных фактов. Что особенно огорчает, платформа не выполнила элементарную проверку их правдоподобности — заявленная масса одной лишь меди многократно превышала массу всего устройства. Сколько камер пострадало в результате этого, история умалчивает. Впрочем, люди хорошо справляются с распространением фейков и без ИИ. В 2020 году вышки сотовой связи жгли без каких-либо подсказок с его стороны. Но кого-то ведь нужно назначить виновным? Не себя же!