Сегодня 01 мая 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Epic Games Store устроил раздачу Hogwarts Legacy в честь 25-летия кинофраншизы «Гарри Поттер» — россиян оставили без подарка 5 ч.
Microsoft запустила тестирование универсального апскейлера Auto SR для Windows 11 — пока только на Xbox Ally X 6 ч.
Атмосферный трейлер раскрыл дату погружения Subnautica 2 в ранний доступ — ждать осталось недолго 7 ч.
Google готова показывать рекламу в Gemini — OpenAI уже делает это в ChatGPT 7 ч.
«Продолжаете удивлять, капитаны!»: пиратский хит Windrose достиг новой вершины продаж и получил патч с техническими улучшениями 8 ч.
Обновлённые Microsoft PowerToys научились управлять мониторами и улучшили работу с окнами 8 ч.
OpenAI объяснила борьбу с гремлинами в ответах ИИ — и позволила снять ограничения 8 ч.
Работник Warner Bros. Games проговорился, что следующей игрой создателей Mortal Kombat станет Injustice 3 8 ч.
«DLSS 5 у нас дома»: Roblox готовит Reality — фотореалистичную игровую платформу с ИИ-рендерингом 9 ч.
Heroes of Might & Magic: Olden Era вышла в раннем доступе Steam — фанаты ждали этого 11 лет 10 ч.
Новая статья: Термодинамические вычислители — это нормально 2 ч.
Материнские платы Gigabyte тоже получили поддержку «половинчатой» памяти HUDIMM 3 ч.
Акции Meta упали на 9 %, а Alphabet выросли на 7 % — обе наращивают капитальные расходы на ИИ 4 ч.
«Сделано в Германии»: Volla представила защищённый смартфон Phone Plinius со съёмной батареей и парой ОС на выбор 4 ч.
Lian Li выпустила компактный корпус Vector V150 INF с «бесконечным зеркалом» 4 ч.
Продажи AWS растут благодаря ИИ, но не так быстро, как у конкурентов 5 ч.
ИИ-ассистент Gemini появится в миллионах автомобилей с поддержкой сервисов Google 6 ч.
Бум ИИ сделал микросхемы памяти одним из самых прибыльных продуктов в мире 7 ч.
Запуск телескопа NASA «Роман» не свернёт работу «Хаббла» — её продолжат, а то и расширят 7 ч.
Samsung предупредила, что дефицит оперативной памяти может ещё больше усугубиться в 2027 году 7 ч.