Сегодня 27 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
OpenAI представила GPT-6.1 Terra — быструю модель для самостоятельной работы на компьютере 7 ч.
Энтузиаст разработал инструмент для запуска на iPhone, iPad и Mac игр с Nintendo Switch, включая главные эксклюзивы 8 ч.
Шейдеры будут скомпилированы ещё до скачивания игры: Unreal Engine 5.8 получил поддержку Microsoft ASD 8 ч.
В Windows 11 нашли секретный переключатель для будущих процессоров Intel — он активирует ускорение системы 9 ч.
Дыры в PHP начали использоваться в реальных атаках — подтверждены успешные взломы 10 ч.
Шантаж, взломы и угроза человечеству: Anthropic предупредила об опасностях ИИ перед IPO 11 ч.
Надёжный инсайдер рассекретил, когда выйдут первые обзоры GTA VI 11 ч.
Instagram замахнулся на YouTube: соцсеть тестирует видео Features длиной до 90 минут 11 ч.
Стартовало голосование за «Игру года» на Golden Joystick Awards 2026 — отдать свой голос может любой желающий 11 ч.
Dark Messiah of Might and Magic получит новую жизнь благодаря моддерам — в Steam появилась страница одобренного Ubisoft неофициального ремастера 12 ч.
Суперкомпьютеры «Яндекса» не пострадали от атак беспилотников и заработают на других площадках 7 ч.
Apple признала проблему трескающегося экрана у «небольшого числа» iPhone Duo и предлагает замену — но причину не объясняет 7 ч.
Новая статья: Компьютер месяца, спецвыпуск: выбираем материнскую плату для игрового ПК 7 ч.
Кризис памяти ударил по производителю дисплеев Samsung Display — Apple и Samsung урезали заказы 7 ч.
Microsoft предложила добровольно уволиться 60 000 сотрудникам — деньги нужны на ИИ 8 ч.
Meta хочет привлечь рекордные до $95 млрд на ИИ — Nvidia, AMD и Broadcom готовы вложиться 11 ч.
Philips представила первый в мире 36-дюймовый сверхширокий игровой монитор с частотой обновления 260 Гц 11 ч.
Обломки телескопа Swift со дня на день рухнут куда-то на Землю — NASA уже попрощалось с обсерваторией 11 ч.
Samsung тоже не хватает оперативной памяти — компания резко урежет производство смартфонов Galaxy A 13 ч.
20 000 фильмов за секунду: Китай разогнал оптоволокно до рекордных 3,2 Пбит/с 14 ч.