Сегодня 19 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Dying Light 2 здорового человека»: пользователи Steam остались в восторге от Dying Light: The Beast 31 мин.
На умных очках Meta появятся сторонние приложения, но не скоро 34 мин.
Google начнёт жёстче фильтровать интимные фото в поиске 38 мин.
GSC Game World подтвердила, когда выйдет крупное обновление 1.6 для S.T.A.L.K.E.R. 2: Heart of Chornobyl и какие улучшения в него войдут 2 ч.
Миллионы Wi-Fi-устройств по-прежнему подвержены уязвимости Pixie Dust, обнаруженной более десяти лет назад 7 ч.
Игровой ИИ-помощник Gaming Copilot появится в Game Bar у всех пользователей Windows 11 12 ч.
Google интегрирует ИИ-агента на базе Gemini в браузер Chrome 12 ч.
Создателям контента для Fortnite позволят зарабатывать реальные деньги на продаже предметов 12 ч.
Microsoft напомнила об окончании расширенной поддержки Office 2016 и Office 2019 в следующем месяце 12 ч.
Epic Games Store устроил раздачу культового приключения Samorost 2 и социального выживания Project Winter 13 ч.
Intel не забросит выпуск видеокарт Arc после сделки с Nvidia 2 ч.
Ирландия разрешит ЦОД подключаться к электростанциям на ископаемом топливе — в качестве временной меры 2 ч.
Глава Nvidia подчеркнул, что пока компания не будет заказывать выпуск чипов у Intel 3 ч.
Из-за «неадекватного» автопилота Xiaomi отзовёт 116 887 электромобилей SU7 4 ч.
iPhone 17 Pro и Pro Max оказались в дефиците на старте продаж — ждать заказов придётся месяц 5 ч.
Глава Nvidia назвал сделку с Intel на $5 млрд «невероятной инвестицией» 7 ч.
Microsoft вот-вот достроит «самый передовой» ИИ ЦОД в мире Fairwater и потратит $4 млрд на ещё один такой же 10 ч.
Новая статья: Обзор и тест системы жидкостного охлаждения Ocypus Sigma L36 Pro: внимание на экран! 12 ч.
Northrop Grumman справилась с отказавшими двигателями — космогрузовик Cygnus XL долетел до МКС 15 ч.
Huawei пообещала создать «самый мощный в мире» ИИ-кластер, который в разы превзойдёт решения Nvidia 15 ч.