Сегодня 30 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Mortal Shell 2 — вдвое больше. Рецензия 7 ч.
Следующая жертва ИИ — актёры: в Китае их массово заменяют цифровыми двойниками 13 ч.
Бигтехи теряют доверие людей — ИИ, соцсети и наступление ЦОД всё чаще вызывают страх и недовольство 14 ч.
Brave научился создавать подставные адреса email — с ними можно не засвечивать настоящий при регистрации на сайтах 15 ч.
В роботах Unitree нашли опасную уязвимость, через которую можно поднять «восстание машин» 20 ч.
Google изменила политику по борьбе со спамом в ЕС, чтобы избежать антимонопольного штрафа 23 ч.
Раннюю версию DLSS 5 уже адаптировали для видеокарт GeForce RTX 4000 29-08 00:36
Новая статья: Были демоны, но они самоликвидировались: история серии Onimusha 29-08 00:00
Спасительный патч для Dragon’s Dogma 2 получил дату выхода — улучшения производительности и лечение от драконьей чумы задержатся 28-08 23:07
The Witcher 4 не пошла по пути Cyberpunk 2077 — CD Projekt Red рассказала о прогрессе разработки амбициозной RPG 28-08 20:42
SpaceX провела полномасштабный огневой тест двигателей ускорителя Super Heavy — 14-й полёт не за горами 10 ч.
После анонса GTA VI из американской розницы исчезли Sony PlayStation 5 Pro, а спекулянты взвинтили цены 13 ч.
Наноантенны многократно усилили яркость свечения живых клеток — это поможет увидеть активность мозга и не только 13 ч.
Ubiquiti выпустила карманный маршрутизатор UniFi Travel Router Long-Range за €89 16 ч.
Пропускная способность оптических модулей XPO вырастет вдвое — до 25,6 Тбит/с 16 ч.
Следующая Xbox будет не одной консолью — Microsoft готовит целое семейство 18 ч.
Android всё ещё контролирует три четверти мирового рынка смартфонов, но iOS и HarmonyOS наступают 18 ч.
NASA вернуло к работе обречённую обсерваторию Swift — теперь она сгорит в атмосфере ещё быстрее 18 ч.
Новая Xbox рискует стать жертвой ИИ-бума — дорогая память заставляет Microsoft искать способы сэкономить 21 ч.
Власти США хотят заблокировать доступ китайских ИИ-разработчиков к передовым заграничным ЦОД 23 ч.