Сегодня 08 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Anthropic запретила пользователям жестоко обращаться с ИИ-ботом Claude — иначе он объявит бойкот 36 мин.
Эвакуационный шутер Arc Raiders получил большое обновление Frozen Trail с новой картой и стал временно бесплатным для всех 50 мин.
Культовое приключение Machinarium спустя 17 лет получит продолжение — первый трейлер Machinarium 2 3 ч.
Дешёвые копии iPhone и Galaxy оказались заражены ещё на заводе — вирус Midnight Mimosa получает полный контроль над смартфонами 5 ч.
Улучшения графики, повышение производительности и не только: для ремастера The Witcher 3: Wild Hunt вышло обновление 5.01 7 ч.
В рунете произошёл масштабный сбой — перестали открываться сайты СМИ, «Яндекс», VK и другие 8 ч.
Открытый и бесплатный Photoshop не за горами — с помощью ИИ создаются копии популярных программ Adobe 8 ч.
Gears of War 6 не придётся ждать семь лет 12 ч.
После нескольких лет изгнания в Chrome вернулась поддержка изображений JPEG XL 13 ч.
Microsoft радикально обновит Windows — систему заселят ИИ-агентами, которые будут работать рядом с пользователем 14 ч.
Sony разочаровалась в виртуальной и дополненной реальностях — сотни патентов уйдут Meta 32 мин.
10 октября в Москве откроется первый шоурум 3D-принтеров Bambu Lab 3 ч.
«МегаФон» впервые провёл мобильный интернет через российские спутники «Бюро 1440» 4 ч.
Apple назначила презентацию на 13 октября — и намекнула на новинки для «умного дома» 4 ч.
Норвежцы пытаются заблокировать строительство крупного ИИ ЦОД Google в соседней Швеции 5 ч.
Samsung хочет превратить AMD из покупателя HBM в крупного клиента своего контрактного производства 5 ч.
Atari воскресила компьютер 43-летней давности — 800XL вернулся с картриджами, BASIC и USB 5 ч.
Agile Robots начала показывать роботам видео с людьми, чтобы научить их работать руками 5 ч.
Amazon перезапустила планшеты с нуля — Alexa Tablet бросают вызов iPad с ценой от $230 5 ч.
Планы ввода мощностей ЦОД в Московском регионе опережают возможности рынка 6 ч.