Сегодня 30 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В России число заражённых вирусами смартфонов подскочило на 70 % с начала года 3 ч.
Хакеры нашли способ проникать в Gmail через штатный механизм Chrome 3 ч.
Apple ускорила выпуск обновлений безопасности в свете растущей угрозы со стороны ИИ 5 ч.
«Не терпится ждать это семь лет»: амбициозный мод Silksoul для Hollow Knight: Silksong впечатлил фанатов первым трейлером 5 ч.
State of Decay 3 может не выйти — Undead Labs оказалась под угрозой закрытия 7 ч.
Netflix выпустит сериал по мотивам Persona — первые подробности 9 ч.
Oracle пообещала сделать управление развитием MySQL более открытым, но сообщество требует гарантий 16 ч.
В WhatsApp появились никнеймы для скрытия телефонного номера — резервирование уже доступно 16 ч.
Календарь релизов — 29 июня – 5 июля: Undergrounded, Monopoly: Star Wars Heroes vs. Villains 18 ч.
Власти США предложили $10 млн за информацию о хакерах, атакующих пользователей WhatsApp и Signal 18 ч.
Firmus при поддержке NVIDIA развернёт в Индонезии ИИ-кластер из 170 тыс. ускорителей 2 ч.
Dreame выпустила в России робот-пылесос L60 Pro Ultra за 110 тыс. рублей 2 ч.
AOC выпустила доступный 24,5-дюймовый игровой монитор AOC Gaming 25G4ZR с Full HD и 260 Гц 2 ч.
Samsung перестала сомневаться в целесообразности освоения 1,4-нм техпроцесса к 2029 году 2 ч.
Китайцы создали сверхпроводящую катушку для крупнейшего в мире термоядерного реактора — своего собственного 3 ч.
Crusoe инвестирует в израильские ЦОД $10 млрд 3 ч.
Представлен 240-долларовый смартфон OnePlus N6 с батареей на 8000 мА·ч, Dimensity 6360 Max и 50-Мп камерой 3 ч.
Meta научилась точнее распознавать мысленный ввод текста с клавиатуры без операций на мозге и имплантов 3 ч.
51,3 Тбит/с на 206,5 км без усилителей — китайская YOFC успешно протестировала полое оптоволокно 3 ч.
Первый ЦОД, построенный в действующей шахте, открылся в Доломитовых Альпах 4 ч.