Сегодня 17 ноября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Календарь релизов 17 – 23 ноября: Moonlighter 2, Demonschool, Forestrike и Neon Inferno 25 мин.
Новый уровень сложности, переработка механик, улучшения A-Life и многое другое: для S.T.A.L.K.E.R. 2: Heart of Chornobyl вышел крупный патч 1.7 27 мин.
Microsoft анонсировала игровую презентацию Xbox Partner Preview — на ней покажут Tides of Annihilation, 007 First Light, Reanimal и многое другое 2 ч.
Nintendo показала первые кадры из фильма по The Legend of Zelda — фанаты в восторге 2 ч.
Владелец Amazon Джефф Безос нашёл себе новую работу в сфере ИИ 3 ч.
Capcom пообещала уберечь Resident Evil Requiem от судьбы Monster Hunter Wilds, которая даже спустя восемь месяцев страдает от проблем с оптимизацией 4 ч.
Программный «ускоритель» Huawei обещает практически удвоить производительность дефицитных ИИ-чипов 5 ч.
Разработчики Pioner «с удвоенной силой» взялись за исправление главных проблем открытой «беты» и готовят новое тестирование 8 ч.
Глава Microsoft считает, что ИИ не должен обогащать лишь кучку техногигантов 11 ч.
Новая Splinter Cell умерла из-за увлечения Ubisoft играми-сервисами 12 ч.
Oppo выпустила смартфоны Reno15 Pro и Reno15 с 200-Мп камерами и Dimensity 8450 38 мин.
Утечки об уходе Тима Кука на пенсию — это продуманная проверка реакции рынка 2 ч.
Дефицит DRAM усиливается: продавцов уже заставляют продавать планки памяти только в комплекте с матплатами 2 ч.
«Ростелеком» пробурил под Камой уникальный кабельный переход для трансроссийской интернет-магистрали TEA NEXT 2 ч.
SpaceX в пятисотый раз успешно запустила многоразовую ракету Falcon 9 2 ч.
MaxSun представила плату MS-iCraft B850 Aiga для Ryzen 9000 и не только 3 ч.
Meta потратила 10 лет и $100 млрд на метавселенную, но так её и не создала 3 ч.
Наушники Samsung Galaxy Buds 4 получат управление головой и множество других новых функций 3 ч.
Colorful выпустила видеокарты iGame Ultra Z BTF 2.0 с «невидимым» питанием 6 ч.
Перегрузка энергосетей угрожает лидерству Нидерландов в сфере ЦОД — доступный водород продолжают игнорировать 6 ч.