Сегодня 17 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Кодзима раскрыл главную звезду новаторского шпионского боевика Physint в духе Metal Gear Solid, и это не Роберт Паттинсон 25 мин.
Cohere и Aleph Alpha договорились о слиянии, новая компания будет стоить $20 млрд 2 ч.
Google начала делить Android на «свой» и «чужой» — GrapheneOS пожаловалась на закрытые API и задержку патчей 2 ч.
Selectel приобрёл сервис-провайдера M1Cloud за 2,6 млрд рублей 2 ч.
X стала ближе к «суперприложению»: пользователям разрешили торговать акциями и криптой через кештеги 2 ч.
Студия разработчиков Hyper Light Drifter и Solar Ash оказалась на грани закрытия — из-за отмены новой игры пришлось уволить «почти всех» сотрудников 3 ч.
Honor снова скопировала Apple: представлена MagicOS 11 с дизайном «жидкое стекло» 3 ч.
ИИ-агенты научились менять сами себя без участия человека — и это настораживает 3 ч.
Google увернулась от принудительного разделения рекламного бизнеса, но ей придётся открыть конкурентам доступ к AdX 3 ч.
Xbox опровергла слухи о трансформации Game Pass в 2027 году, но всё не так просто 4 ч.
Китайские смартфоны всё чаще переходят на местную память CXMT — Samsung и SK hynix теряют клиентов 8 мин.
Китайские учёные создали материал для памяти, которая выдержит 10 млрд перезаписей — в 100 раз больше обычного 12 мин.
Maserati объединяется с Huawei, но это не точно — люксовые электромобили будут собирать в Италии из китайских комплектующих 43 мин.
Учёные установили точную дату первого сбоя на железной дороге из-за космической погоды — это случилось раньше, чем можно подумать 47 мин.
За пять лет мировой рынок чипов почти удвоится — память и ЦОД разгонят его до $3,2 трлн 2 ч.
У Земли нашли «точку G» — NASA вдвое повысило точность определения центра масс нашей планеты 2 ч.
«Это лишь вопрос времени»: Дженсен Хуанг предсказал, что Китай освоит передовую литографию к 2030 году 3 ч.
В большинстве районов Москвы сети 5G оказались не быстрее LTE 3 ч.
Спрос на электромобили и гибриды подскочил в России на 40 %, но зарядок не хватает 4 ч.
Snap выпустила умные очки Specs с дополненной реальностью за $2195 4 ч.