Сегодня 29 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
The Witcher 3: Wild Hunt спустя 11 лет установила новый рекорд популярности в Steam — всё благодаря ремастеру 50 мин.
Учёные нашли способ подделывать RSA-подписи без взлома закрытого ключа 2 ч.
«Требуем фильм или сериал по Ace Combat»: финал короткометражки Hour Zero по Ace Combat 8: Wings of Theve привёл фанатов в восторг 2 ч.
Firefox получил обновлённый дизайн — более округлый и плавный 3 ч.
Ностальгическое дорожное приключение Keep Driving докатило до консолей и получило поддержку модов в Steam — трейлер с живыми актёрами 4 ч.
«Билайн бизнес» запустил коммуникационную платформу, которая помнит каждого клиента 4 ч.
Окружённый слухами «реалистичный» хоррор Abandoned спустя четыре года вернулся из небытия с обновлённой страницей в PS Store 5 ч.
Microsoft показывает подрядчикам пользовательские запросы и фото из Copilot — среди них хватает интима 5 ч.
Выпущен атмосферный трейлер Stranger Than Heaven — нового криминального экшена от авторов Yakuza 5 ч.
Исследователи OpenAI и Google бьют тревогу — развитие ИИ опережает возможности людей его контролировать 5 ч.
Больше продуктов и меньше менеджеров среднего звена: Тернус собрался перестроить Apple с «упором на инженерию» 2 ч.
Современные автомобили постоянно собирают и куда-то передают данные — больше половины сливают данные рекламщикам 2 ч.
Учёные создали крошечных роботов-прыгунов на ИК-питании — но пока не придумали, зачем 4 ч.
Чтобы купить PlayStation 5 Pro, японцам придётся выиграть в лотерею — так Sony отбивается от перекупщиков и туристов 4 ч.
Представлен iQOO 16 — флагман со Snapdragon 8 Elite Gen 6 Extreme, трио 50-Мп камер, очень ярким экраном и батареей на 8400 мА·ч 4 ч.
SberDevices представила геймпад с «ГигаЧатом» — им комплектуется спецверсия SberBox Max 4 ч.
ИИ прожорлив: ByteDance поглощает пятую часть всех мощностей китайских ЦОД 5 ч.
Motorola тоже готовит «паспортный» складной смартфон — Razr Flex получит экран 165 Гц и кнопку вызова ИИ 7 ч.
Робот-паук научился варить корабли — он ходит по потолку, проникает в труднодоступные места и может лишить работы людей 7 ч.
ИИ-агенты научились самостоятельно проектировать и проверять чипы — Synopsys представила AgentEngineer 7 ч.