Сегодня 08 апреля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Исследователи подсчитали количество ложных ответов в Google ИИ-обзорах 2 ч.
Anthropic объявила о создании консорциума против киберугроз от передовых ИИ-систем 4 ч.
Anthropic выпустила ИИ-модель Mythos, но из-за её высоких хакерских способностей доступ к ней получат не все 5 ч.
Cloudflare ускорила переход на постквантовую криптографию из-за роста угроз 11 ч.
Starfield вышла на PS5, получила второй сюжетный аддон и бесплатное обновление с бесшовными космическими путешествиями 11 ч.
Надёжный инсайдер подтвердил планы Naughty Dog на Uncharted 5, но есть нюанс 13 ч.
Атмосферный хоррор-шутер Industria 2 о застрявшей в параллельной вселенной учёной из Восточного Берлина выйдет на следующей неделе 14 ч.
Балетный экшен «Царевна» отправит игроков в мир славянского тёмного фэнтези — первый геймплейный трейлер 14 ч.
Фанаты смогут подарить свою внешность персонажам игр PlayStation, начиная с Gran Turismo 7 — Sony анонсировала программу The Playerbase 16 ч.
Microsoft уже выпустила больше 80 различных Copilot — вся экосистема может включать более 100 продуктов 16 ч.
Глава Google дал понять, что компания открыта к инвестициям в новые стартапы 51 мин.
Илон Маск будет требовать в суде отставки главы OpenAI Сэма Альтмана и президента компании Грега Брокмана 2 ч.
Anthropic переманила ключевого специалиста у Microsoft на должность главы отдела инфраструктуры 5 ч.
Гарнитура Galaxy XR научилась превращать плоские 2D-приложения в 3D 5 ч.
Проблемы не помешают складному Apple iPhone выйти на рынок в сентябре, как утверждает Bloomberg 5 ч.
Новая статья: Обзор Nothing Phone (4a) Pro: не такой, как все, — и не для каждого 8 ч.
Новая статья: Обзор материнской платы MSI MPG X870I EDGE TI EVO WIFI WiFi: флагман в форм-факторе mini-ITX? 10 ч.
Motorola представила смартфон Moto G Stylus (2026) со продвинутым стилусом 11 ч.
Ноутбучные процессоры Snapdragon X2 Elite ускорились в играх, но до звания геймерской платформы ещё далеко 12 ч.
Самодельный квадрокоптер с питанием от солнечных панелей провисел в воздухе рекордные пять часов — а после оператор устал 13 ч.