Сегодня 12 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Обновлённая Siri «на 100 %» откажется превращаться в ИИ-девушку пользователя 49 мин.
Google намерена узнать, что произойдёт, когда миллионы ИИ-агентов начнут действовать вместе 52 мин.
Слухи: разработку ремейка Resident Evil 0 перезапустили с нуля, но есть и хорошая новость 2 ч.
«Важно лишь то, насколько отполирована игра»: разработчики Phantom Blade Zero не испугались конкуренции с GTA VI 2 ч.
WhatsApp расширил поддержку нескольких аккаунтов в приложении для iOS 3 ч.
«Вышитое» средневековое приключение Scarlet Deer Inn не заставит себя долго ждать — новый трейлер и дата выхода в Steam 3 ч.
Telegram получил клиенты для смарт-часов, поддержку форматирования у ботов, ИИ-модерацию в группах и многое другое 4 ч.
SemiAnalysis: подписная модель на ИИ-сервисы оказалась до семи раз дешевле доступа по API 5 ч.
В Steam пробралась демоверсия ретрофутуристического хоррора RetroSpace, вдохновлённого System Shock 14 ч.
Ролевой боевик Valor Mortis от создателей Ghostrunner не выйдет в один день с Control Resonant — объявлена новая дата релиза 17 ч.
Nvidia начнёт продавать самые передовые чипы в Китай — но обучать ИИ на них вряд ли получится 46 мин.
Аэротакси Vertical Aerospace впервые взлетело с пилотом на борту — это резко приблизило сертификацию 2 ч.
Создан самый маленький QR-код в истории — он состоит из отдельных атомов серебра 2 ч.
Microsoft разрешила функциям Copilot+ PC работать на видеокартах Nvidia 3 ч.
Бум ИИ споткнулся о бетономешалки: забастовка водителей грозит сорвать расширение фабрик Samsung и SK hynix 3 ч.
Япония успешно запустила ракету-носитель H3 в легчайшей конфигурации 3 ч.
Глава TSMC пожаловался, что больше всего компании не хватает кадров и воды 4 ч.
Впервые солнечная энергетика в США на целый месяц затмила угольную 6 ч.
Сегодня SpaceX проведёт крупнейшее IPO в истории — и продаст акций на рекордные $75 млрд 6 ч.
Телевизоры TCL первыми получили голосовое контекстное управление на базе Gemini 7 ч.