Сегодня 02 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Прототип отменённого приквела Portal спустя 20 лет попал в открытый доступ — 40 минут геймплея F-Stop 16 мин.
Новая статья: Gamesblender № 800: битва за Mass Effect, «тяжелый» реализм GTA VI и триумф Phantom Blade Zero 13 ч.
Binance возобновила вывод средств и возместила 95 % украденных $6,3 млрд 17 ч.
Панель задач Windows 11 навсегда останется на привязи: Microsoft объяснила отказ от перетаскивания 24 ч.
Новая статья: Clive Barker’s Hellraiser: Revival — игра, вызывающая приятную боль. Рецензия 01-11 00:01
Квартальный объём мирового рынка облачных инфраструктур вырос в полтора раза 31-10 23:04
Binance закрыла 90 % дыры после кражи $6,3 млрд — вывод средств обещают вернуть 1 ноября 31-10 21:28
GamesVoice озвучила последний трейлер GTA VI и намекнула, что русский дубляж игры может появиться «когда-нибудь потом» 31-10 20:21
Apple Intelligence на следующей неделе доберётся до Китая — с Qwen от Alibaba, но без новой Siri 31-10 10:29
Новая статья: Gears of War: E-Day — как заводилась бензопила. Рецензия 31-10 00:08
Новая статья: Обзор ASUS ROG Strix SCAR 18 G835 (2026): этот ноутбук быстрее 99 % десктопов 11 ч.
Проект ЦОД Project Blue в Аризоне обострил спор о распределении дефицитных водных ресурсов 22 ч.
Память стала золотой жилой ИИ: Samsung, SK hynix и Micron заработали больше Apple, Microsoft и Amazon 22 ч.
SpaceX не смогла отделаться от иска NAACP по поводу загрязнения воздуха в Мемфисе 23 ч.
Meta тайно создала прототип человекоподобного робота для дома — помогли китайцы 31-10 23:27
Прогноз Kioxia разочаровал инвесторов — компания отметила снижение темпов роста стоимости флеш-памяти 31-10 23:22
Орбитальный ЦОД Google Suncatcher вышел на связь и написал хайку 31-10 23:11
ИИ-агент Anthropic Claude самостоятельно провёл операцию на мозге живой мыши 31-10 17:36
Альтман приехал к Samsung выпрашивать память для ИИ на фоне усиления дефицита 31-10 16:56
Подорожают и камеры: Canon готовится переложить рост затрат на покупателей 31-10 13:35