Сегодня 28 мая 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
YouTube научился собирать персональную ленту видео по описанию 7 ч.
Google и CrowdStrike обезвредили ботнет Glassworm, два года атаковавший разработчиков открытого ПО 8 ч.
«Удивит и впечатлит людей»: инсайдеры раскрыли название, место анонса и дату выхода ремейка Rayman Legends 9 ч.
Avanpost открыла публичное тестирование облачного сервиса Avanpost Identity Cloud 9 ч.
Telegram в России оштрафовали в третий раз за месяц 11 ч.
Robinhood выпустила кредитку для ИИ-агентов, чтобы те могли оплачивать покупки за пользователей 11 ч.
Кодзима наконец покорил космос, но лишь в ИИ-рекламе для Prada 11 ч.
Спустя пять лет после анонса разработка новой Dragon Quest стартовала с нуля — первый трейлер и подробности Dragon Quest XII: Beyond Dreams 13 ч.
YouTube научился автоматически помечать видео, созданные с помощью ИИ 14 ч.
Большая игра в компактном формате: критики вынесли вердикт олдскульному приключению Mina the Hollower от создателей Shovel Knight 14 ч.
HP Inc призвала готовиться к сохранению роста цен на память во втором полугодии 20 мин.
OpenAI Foundation направит $250 млн на адаптацию работников в условиях экспансии ИИ 3 ч.
Китайский производитель памяти CXMT готовит крупнейшее за последние годы IPO, чтобы бросить вызов Samsung и Micron 9 ч.
Американский стартап в 1000 раз ускорил протипирование печатных плат — жидкий металл меняет разводку печатных плат почти мгновенно 10 ч.
Будущие смартфоны Huawei Mate 90 получат процессор Kirin на аналоге 3-нм техпроцесса 11 ч.
«Это не было запланировано»: Motorola признала скрытую подмену ссылок Amazon на своих смартфонах 11 ч.
Из-за ИИ-бума TSMC повысит цены на 3-нм чипы на 15 % в этом году и ещё на 10 % — в следующем 11 ч.
$800 млрд под угрозой: половине запланированных в США ЦОД угрожают стихийные бедствия 13 ч.
MediaTek представила чип Dimensity 8550 для мощных смартфонов среднего уровня — он поддерживает Gemini Nano v3 13 ч.
В очередь за холодом: Modine получила предзаказ на системы охлаждения для ЦОД на $4 млрд 13 ч.