Сегодня 05 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Это игры для подростков»: разработчик Kingdom Come: Deliverance раскритиковал современные RPG 2 ч.
Ubisoft запустила Motherbrain для внедрения генеративного ИИ в будущие игры 3 ч.
Апокалиптический вестерн Guns of Eschaton с духом Dark Souls получил новый геймплейный трейлер и демоверсию в Steam 4 ч.
В ChatGPT станет больше рекламы — OpenAI начнёт показывать её во время генерации изображений 5 ч.
ИИ сдал пользовательницу полиции — она рассказала Claude о планах устроить стрельбу 5 ч.
«Плохие вещи будут происходить»: Сэм Альтман призвал смириться с рисками ИИ ради его преимуществ 5 ч.
Tomb Raider: Legacy of Atlantis избавили от Denuvo за четыре месяца до релиза — ремейк классической Tomb Raider выйдет без защиты 6 ч.
В Steam вышла демоверсия «Ларька на улице Ленина» — симулятора ларька для гиков в России нулевых 6 ч.
Более 80 % крупных российских компаний заявляют о готовности к авариям, но не имеют системного подхода к восстановлению 10 ч.
ИИ завалил Google фальшивыми уязвимостями — компания приостановила приём сообщений об ошибках 10 ч.
Qualcomm снова сошлась в суде с Arm — спор об инструментах тестирования чипов грозит миллиардами долларов роялти 7 ч.
Google признала, что не все Android-приложения будут нормально работать на Googlebook с чипами Intel 8 ч.
Honda покажет в деле технологию беспроводной зарядки электромобилей прямо на ходу 9 ч.
Google готовит относительно доступный фитнес-трекер Fitbit Edge с экраном 10 ч.
Новые MacBook Pro не только получат сенсорные OLED, но и заметно похудеют 10 ч.
Разработчик «неубиваемого» оптического интерконнекта CScale вышел из «стелс-режима», получив $145 млн от NVIDIA и Intel 10 ч.
Amazon отдаст инвесторам ИИ-чипы на $8 млрд и тут же арендует их 10 ч.
Trane выпустила LiquidStack 2.X CDU для ИИ ЦОД 11 ч.
Крупный ИИ ЦОД Oracle в Висконсине не хотят подключать к электросети, а сроки запуска уже начинают поджимать 11 ч.
Foxconn продолжает грести деньги на ИИ-буме — квартальная выручка взлетела на 47 % и побила прогнозы 11 ч.