Сегодня 27 марта 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Руссофт»: оборот отечественных IT-компаний в 2024 году вырос до 2,6 трлн рублей 6 мин.
Microsoft исправила баг в Windows, побуждавший USB-принтеры печатать белиберду 2 ч.
Веб-версия «Яндекс Музыки» получила поддержку lossless-аудио и другие нововведения 2 ч.
Надёжный инсайдер раскрыл, когда ждать Intergalactic: The Heretic Prophet от Naughty Dog 3 ч.
Создателей Inzoi поймали на использовании Denuvo — самая желанная игра в Steam выйдет без скандальной защиты 4 ч.
Осторожно, Android закрывается: разработка ОС перестанет быть публичной, но для паники причин нет 4 ч.
Sony добавила RoboCop: Rogue City в апрельскую подборку PS Plus — фанаты в восторге 5 ч.
Перед полноценной презентацией Switch 2 пройдёт ещё одна Nintendo Direct — когда, где и что покажут 6 ч.
Культовый музыкальный сервис Napster продали за $207 млн — он позволит артистам создавать «сумасшедшие среды» 6 ч.
Google рассказала о новых мерах безопасности в «Play Маркете» — они появятся в этом году 7 ч.
Новая статья: Rikor — это база: обзор российской серверной платформы Rikor 7212 22 мин.
Ryzen 9 9955HX3D показал себя как самый быстрый мобильный процессор в 3 из 4 первых тестов 2 ч.
Corning представила Gorilla Glass Ceramic — защитное стекло с примесью керамики, которому не страшны падения на асфальт 2 ч.
Центр нашей галактики — это настоящая «мясорубка звёзд» и учёные объяснили почему 3 ч.
Глава Xiaomi вживую показал второй электромобиль компании — кроссовер Xiaomi YU7 3 ч.
1440p и 240 Гц всего за $200: Xiaomi обновила 27-дюймовый игровой монитор Redmi G27Q 4 ч.
На Nvidia GTC показали в деле нейроинтерфейс с ИИ, который соединил мозг с компьютером без операции на мозге 5 ч.
ИТ-холдинг Т1 создаст в этом году СП по производству отечественных серверов 6 ч.
В России дебютировал смартфон Oppo A5 Pro с защитой от пыли, влаги и падений за 17 999 рублей 6 ч.
LiquidStack удвоила производственные мощности по выпуску СЖО в США, открыв второй завод в Техасе 8 ч.