Сегодня 21 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Resonance: A Plague Tale Legacy попала в руки пиратов за целую неделю до официального релиза 6 ч.
Новый трейлер подтвердил дату выхода Beyond These Stars — градостроительной стратегии о жизни на спине космического кита 8 ч.
Шпионский боевик 007 First Light от создателей Hitman покорил новую вершину продаж — 4 миллиона за три месяца 9 ч.
AMD выпустила драйвер с поддержкой Resonance: A Plague Tale Legacy, Star Wars Zero Company и «беты» Call of Duty: Modern Warfare 4 9 ч.
Стандартная клавиатура Android позволит растянуть смайлики — Google добавит в Gboard настройку размера эмодзи 9 ч.
Ветеран Electronic Arts предупредил, что Mass Effect 5 и BioWare могут не пережить переход издателя под контроль Саудовской Аравии 10 ч.
«Мрачно. Красиво. Оптимизированно»: ролевой боевик Mortal Shell 2 стартовал в Steam с рейтингом 81 % 11 ч.
Doom запустили на 16-летней зеркалке Canon EOS 550D 11 ч.
Binance разрешила ИИ-агентам торговать криптовалютой от лица пользователя 11 ч.
ИИ-агент подсунул разработчику ПО вредоносный пакет — и тот чуть было не встроил его в проект 11 ч.
Google договорилась с Marvell о разработке ИИ-чипов 4 ч.
Новая статья: Обзор телевизора Hyundai 65" H-LED65BU7011: огромная диагональ недорого 4 ч.
AM4 отказывается умирать: Gigabyte выпустила новую плату B550 X Gaming с DDR4 для Ryzen 5000 5 ч.
Waymo впервые показала «мозг» роботакси — фирменный 5-нм чип на 1000 TOPS для обработки данных всех датчиков 5 ч.
Дроны Amazon начали ронять посылки в бассейны и водоёмы 9 ч.
«Гостиная на колёсах»: Genesis представила электрический внедорожник GV90 с огромным дисплеем 9 ч.
Роботакси Tesla в техасском Остине перешли на полностью беспилотный режим работы 9 ч.
Nothing представила наушники CMF Buds Neo с активным шумоподавлением, автономностью до 52 часов и ценой $21 10 ч.
Без NVIDIA: Rubytech показала возможность создания корпоративной ИИ-инфраструктуры на китайских GPU с российскими LLM 10 ч.
Sennheiser выпустила наушники Momentum 5, у которых батарейки можно заменить даже дома 10 ч.