Сегодня 11 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ReactOS на ARM научилась запускать 64-битные Windows-игры для x86 — разумеется, самым окольным путём из возможных 54 мин.
ИИ ослабляет умственные способности человека и распространяется как вирус, установили учёные 2 ч.
OpenAI готова замедлить гонку разработки ИИ, если конкуренты сделают то же самое 4 ч.
Стартовал ранний доступ сетевого шутера Wardogs с инновационной экономикой — онлайн в Steam уже превысил 330 тысяч человек 13 ч.
ИИ упростил подачу жалоб — и граждане завалили обращениями госслужбы по всему миру 14 ч.
Nintendo отблагодарит американских игроков за отмену таможенных пошлин Трампа новой распродажей, но не возвратом средств 14 ч.
IBM и NASA выпустили ИИ-модель для изучения и освоения Луны 15 ч.
Не лучший в своём деле: критики вынесли вердикт Marvel’s Wolverine 15 ч.
Сага об уволенных со скандалом разработчиках GTA VI вышла на финишную прямую, и Rockstar настроена «решительно» 17 ч.
Apple раскрыла лимит для Apple Intelligence — без доплаты ряд функций будет временно отключаться 17 ч.
В России запустили 5G — пока что в 16 городах и не для пользователей iPhone 15 мин.
d-Matrix присоединилась к альянсу NVLink Fusion, чтобы интегрировать свои ИИ-ускорители в экосистему NVIDIA 40 мин.
Тайваньские работники Micron выбили себе долю сверхдоходов от ИИ — премии достигнут 68 месячных зарплат 56 мин.
ЦОД как чип: Meta и Panmnesia предложили CXL-фабрику размером с целый дата-центр 2 ч.
Altera собирается вернуться на биржу спустя одиннадцать лет, как Intel увела её оттуда за $16,7 млрд 3 ч.
По норме прибыли китайская CXMT уже обошла ведущих мировых производителей памяти 3 ч.
Электрические аэротакси получили разрешение на испытательные полёты в Техасе 5 ч.
Новая статья: Обзор складного смартфона nubia Flip2: когда раскладушка – не роскошь 11 ч.
AMD выпустила шестиядерные Ryzen 5 7500 и Ryzen 5 5500F для бюджетных сборок на AM5 и AM4 14 ч.
Мышь Finalmouse Starlight X установила рекорд по скорости клика — она обогнала Logitech G Pro X2 Superstrike 14 ч.