Сегодня 23 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Steam вышла демоверсия Dopros — нелинейного симулятора допроса в тоталитарной антиутопии 26 мин.
Titan Quest 2 не вырвется из раннего доступа Steam и Epic Games Store в 2026 году — новый трейлер и дата выхода версии 1.0 51 мин.
Microsoft удалит три мини-приложения, которые ещё недавно автоматически устанавливала в Windows 11 с Microsoft 365 3 ч.
Valorant получил крупный патч 13.06: новое оружие, временный режим, улучшенный интерфейс и точная оценка эффективности игроков 4 ч.
Graveyard Keeper 2 стартовала в Steam с «очень положительными» отзывами и уже обогнала первую часть по пиковому онлайну 4 ч.
Обнаружен вирус CLOSEDQUORUM, который после взлома Windows обращается за советами к ИИ 5 ч.
Activision нацелилась выпустить «величайшую Halo в истории», и это будет не ремейк Halo 2 6 ч.
Серийный охотник за уязвимостями Microsoft заблокировал автообновления антивируса Defender 7 ч.
Минюст США встал на сторону Apple в споре с Epic Games — Верховный суд призвали отменить запрет на комиссии с покупок вне App Store 7 ч.
«Ставки растут»: OpenAI пустит сторонних проверяющих на более ранние этапы разработки ИИ-моделей 7 ч.
Китайские производители памяти больше не хотят просто собирать SSD — Biwin вложит $672 млн в передовую упаковку чипов 43 мин.
Представлены флагманы Xiaomi 18 Pro и Pro Max с новейшими Snapdragon, двойными 200-Мп камерами и тыльными экранами 2 ч.
Китай сделал первый шаг к космическим ЦОД — ИИ-спутник Supercomputing-1 начал обрабатывать данные на орбите 2 ч.
Airbus доверила Steam Deck управление прототипом ровера ExoMars 2 ч.
SiPearl поставила первые образцы европейского серверного процессора Rhea1 для суперкомпьютера JUPITER 3 ч.
Firebird готовится превратить Армению в американский ИИ-хаб 3 ч.
Schneider Electric оценила эффективность разных типов систем охлаждения ЦОД — СЖО на «горячей» воде лучше всех 3 ч.
Аппетиты ИИ разогнали атомную энергетику Китая — в стране строят АЭС и SMR, и готовят термоядерный прорыв 4 ч.
Google оформила «подписку» на повышение мощности двух АЭС в США 5 ч.
Китайская Hygon представила четырёхъядерные x86-процессоры для промышленных систем и робототехники 5 ч.