Сегодня 21 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Аудитория The Crew Motorfest выросла до 10 млн человек — гоночная аркада будет чаще получать новый контент 28 мин.
«Не в деньгах счастье»: рекордные финансовые показатели в Meta соседствуют с серьёзным упадком духа сотрудников 7 ч.
«Накаркали»: в запрете своих ИИ-моделей виноваты сами представители Anthropic, как убеждены эксперты 8 ч.
Новая статья: Phonopolis — прямо как в книге «1984» Джорджа Оруэлла. Рецензия 15 ч.
Новая статья: Gamesblender № 781: предзаказы GTA VI, студии Xbox на грани закрытия, Unreal Engine 6 в 2027 году 16 ч.
ИИ Continuum найдёт и починит уязвимости у клиентов AWS 23 ч.
В октябре Microsoft прекратит поддержку Office 2021 — продолжать им пользоваться будет небезопасно 23 ч.
Сооснователь Ubisoft Клод Гиймо погиб в авиакатастрофе во Франции 24 ч.
Apple прояснила ситуацию с отсутствием поддержки watchOS 27 на старых смарт-часах 20-06 12:34
Microsoft обнаружила новый вредонос для кражи криптовалюты, распространяемый на USB-накопителях 20-06 12:19
Nokia и Acer положили конец патентной войне вокруг видеокодеков 18 ч.
AMD и Intel совместно утвердили набор ИИ-инструкций ACE для будущих x86-процессоров 21 ч.
Китай ужесточает контроль за поставками индия — это может ударить по производству дисплеев и оптических чипов 22 ч.
В Словении запущена НРС-система FRIDA с ускорителями NVIDIA Blackwell 23 ч.
Silent PC выпустила водонепроницаемый ПК на AMD Ryzen 9000 с ценой от $3350 24 ч.
Огромные премии сотрудников SK Hynix и Samsung создали угрозу инфляции в Южной Корее 24 ч.
Сделка Microsoft с Oracle по аренде облачной инфраструктуры сорвалась из-за требований безопасности 20-06 12:58
NASA попытается спасти падающую обсерваторию Swift с помощью космического буксира 20-06 12:56
Учёные создали простой регулируемый источник квантового света — его буквально можно подкрутить до нужного режима 20-06 12:00
В Индии запустят собственный спутниковый интернет — конкурента Starlink 20-06 11:08