Сегодня 21 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Chrome научился заполнять формы с помощью Gemini по данным из Gmail и «Google Фото» — пока в тестовом режиме 11 мин.
Психологический триллер Lost in the Roots от авторов No, I’m not a Human выйдет «совсем скоро» — сюжетный трейлер и запись на тестирование в Steam 26 мин.
Microsoft устранила несовместимость компьютеров Dell с последним обновлением Windows 2 ч.
Госдума приняла закон «О цифровых валютах и цифровых правах» 2 ч.
В LibreOffice раскритиковали не до конца открытые форматы Microsoft Office 2 ч.
Ветераны Criterion Games анонсировали гоночный боевик с открытым миром Wreckreation 2 в духе Burnout Paradise 2 ч.
Закрытая Xbox студия-разработчик Mighty Doom восстала из мёртвых — Alpha Dog Games вернула независимость 3 ч.
ИИ-платформу Hugging Face атаковали вредоносные ИИ-агенты 4 ч.
CD Projekt Red подтвердила, когда и где покажет «Баллады прошлого» — третье сюжетное дополнение к The Witcher 3: Wild Hunt 4 ч.
Соцсеть X радикально обновила Android-приложение — его переписали с нуля 5 ч.
Астрономы впервые обнаружили двойную звёздную систему, где обе звезды взорвались как сверхновые 5 мин.
Nvidia повысила цены на все компьютеры и модули Jetson — в некоторых случаях вдвое 7 мин.
«Джеймс Уэбб» обнаружил на Титане и Плутоне неизвестную науке органику 22 мин.
Sony разгневала общественность отказом от игровых дисков для PlayStation, хотя продаются они плохо 26 мин.
Американские ИИ-гиганты задолжали гораздо больше, чем отражено в их отчётности — обязательств набралось уже на $1,65 трлн 54 мин.
ИИ-ускорители появятся в бюджетных смартфонах — как минимум, на базе Qualcomm Snapdragon 4 Gen 6 2 ч.
Xiaomi повысила прогноз по годовым продажам смартфонов — в компании ожидают стабилизации цен на память 2 ч.
Nintendo: у потребителей нет законного права на возмещение таможенных пошлин США 2 ч.
Энергетики требуют с Oracle $7 млрд залога, чтобы запитать ИИ ЦОД Stargate 3 ч.
TrendForce предсказала конец дефицита флеш-памяти во второй половине 2027 года 4 ч.