Сегодня 18 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ уже превосходит обычных медиков в точности определения диагноза 46 мин.
Mozilla представила дорожную карту Firefox на фоне падения аудитории, исчисляемого миллионами человек в месяц 2 ч.
Великобритания потребовала от Google повысить прозрачность поисковой выдачи 2 ч.
NVIDIA стала лидером во всех тестах MLPerf Training 6.0 7 ч.
Новая статья: Умные помощники: обзор ИИ-сервисов для обработки изображений. Часть 2, актуализированная 9 ч.
Моддер показал геймплей Dark Souls 2 с бесшовным кооперативом — игроки в восторге 11 ч.
Возраст не помеха: спустя семь лет с релиза Devil May Cry 5 установила рекорд по продажам за год 14 ч.
Дженсен Хуанг: обществу необходимы «новые социальные нормы» в эпоху ИИ 15 ч.
Смартфоны Samsung научатся оценивать здоровье питомцев по фотографии 15 ч.
Спустя четыре года апгрейд GTA V до версий для PS5, Xbox Series X и S всё-таки станет бесплатным 15 ч.
Обновлённая колонка Google Home получила интеграцию с Gemini и поступит в продажу 25 июня 3 мин.
SK hynix объявила о начале поставок образцов памяти HBM4E 17 мин.
Второе поколение Apple iPhone Air весной 2027 года предложит вторую камеру и увеличит время работы от батареи 3 ч.
Тим Кук признался, что дефицит памяти вынудит Apple поднять цены на свои устройства 4 ч.
В США заработал суперкомпьютер Lynx с интерконнектом Cornelis Omni-Path CN5000 7 ч.
Dell заняла первое место среди производителей серверов благодаря рекордному количеству заказов на ИИ-системы 7 ч.
Sandisk оценила SSD Optimus GX PRO 850P ёмкостью 8 Тбайт для PS5 почти в пять раз дороже самой консоли 12 ч.
Полный комплект комплектующих и аксессуаров Asus ROG 20th Anniversary Collection Edition оценён в $16 580 в Китае 12 ч.
MSI наделила свои платы для Intel поддержкой половинчатых модулей DDR5 HUDIMM 14 ч.
Учёные разработали память, которая умеет забывать лишнюю информацию — совсем как человеческий мозг 14 ч.