Сегодня 24 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple выплатит $250 млн покупателям iPhone из-за задержки Apple Intelligence 25 мин.
Американские бигтехи встали на защиту открытых ИИ-моделей — они «стимулируют инновации» 34 мин.
Взгляд в будущее: глобальный сбой PlayStation Network нарушил работу цифровых игр 39 мин.
«Вот так и должна выглядеть стратегия по 40K»: больше часа «живого» геймплея Total War: Warhammer 40,000 привели фанатов в восторг 2 ч.
В Facebook появилось сканирование лица — так пользователь подтвердит, что он не бот 3 ч.
Видео займут весь экран: Facebook станет ещё больше похож на TikTok после потери миллионов пользователей 3 ч.
IO Interactive тайком удалила Denuvo из 007 First Light спустя всего два месяца после релиза 3 ч.
ChatGPT вошёл в список самых подделываемых брендов в интернете 4 ч.
Кнопку Copilot в Windows 11 наконец можно отключить, но Microsoft продолжит ставить её на новые ПК 4 ч.
Торговая марка выдала название загадочной новой Kingdom Come 5 ч.
AMD похвасталась победой Epyc на Zen 6 над Nvidia Vera — но сравнение вызвало вопросы 37 мин.
Кризис не щадит: Nothing сократит штат и уйдёт из ряда стран, если слухи верны 50 мин.
Прекращение выпуска дисков для PlayStation не отразится на индустрии, считают в Ubisoft 52 мин.
Gigabyte тоже наделила свои материнские платы поддержкой китайской памяти CXMT DDR5 59 мин.
В стремлении стать ИИ-сверхдержавой Великобритания не учла растущие потребности ЦОД в воде 2 ч.
Налог на дно: Орегон намерен взимать ежегодные сборы за прокладку кабелей в прибрежной зоне 3 ч.
Apple заставляет поставщиков удешевить OLED-дисплеи для iPhone 18 — всё из-за дефицита памяти 3 ч.
Историческая сделка: в этот день двадцать лет назад AMD объявила о поглощении ATI 3 ч.
От Флоренции до Равенны: AMD готовит процессоры EPYC Florence и Ravenna, а также ускорители MI500 и MI600 3 ч.
На фоне скачка цен Intel и AMD подписали с китайскими клиентами долгосрочные контракты на поставку серверных CPU 4 ч.