Сегодня 10 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
От новичков до ветеранов первого «Ведьмака»: в CD Projekt Red рассказали, кто разрабатывает The Witcher 4 2 ч.
На TikTok в США нашёлся новый покупатель за 10 дней до возможного запрета сервиса 2 ч.
Марк Цукерберг лично разрешил обучать ИИ-модели Llama на пиратских материалах 2 ч.
Глава X заявила о возвращении рекламодателей в соцсеть, но сторонняя статистика не согласна 3 ч.
Nvidia показала в деле ИИ-бота R2X, который поможет в использовании ПК — без ошибок не обошлось 4 ч.
Ubisoft раньше времени раскрыла подробности сюжетного дополнения Claws of Awaji к Assassin’s Creed Shadows 4 ч.
Спидраннер прошёл New Super Mario Bros. Wii с привязанными к телу контроллерами, одновременно играя на пианино 5 ч.
Google запустила «нейтральный» проект по разработке Chromium 5 ч.
Шутки в сторону: X начнёт явно помечать пародийные аккаунты 5 ч.
Kingdom Come: Deliverance 2 будет продолжительнее первой части — журналисты узнали, сколько времени потребуется на прохождение 6 ч.
Palit показала свою самую лучшую GeForce RTX 5090 в новом лаконичном исполнении Master 4 мин.
Анонсирован смартфон Redmi Note 14 для глобального рынка в версиях с 5G и 4G по цене от €200 12 мин.
Штаб-квартира на острове, ЦОД — на материке: Малайзия и Сингапур подписали соглашение о создании особой экономической зоны JS-SEZ 16 мин.
Nintendo официально прокомментировала последние утечки о Switch 2 19 мин.
Blue Origin отменила сегодняшний запуск ракеты New Glenn — на море ветрено 24 мин.
AWS анонсировала свой первый облачный регион в Таиланде 2 ч.
xMEMS показала диковинные микроэлектромеханические системы охлаждения и динамики на CES 2025 2 ч.
Мировые продажи чипов в ноябре подскочили на 20,7 % и обновили исторический рекорд 2 ч.
ИИ по квотам: США распространят ограничения на поставку ускорителей и обучение моделей почти на весь мир 3 ч.
Автопилот начнёт массово распространяться по дорогам Китая уже в этом году 3 ч.
Включить темный режим