Сегодня 05 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple разрешила себе проверять файлы в iCloud, которыми пользователи делятся по ссылке 18 мин.
ChatGPT научился генерировать гифки — из картинок или по описанию 2 ч.
Apple начала экономить на ИИ: компания урезает сотрудникам бюджеты на использование нейросетей 2 ч.
«Заберите мои деньги, пока они у меня ещё есть»: разработчики Lords of the Fallen 2 впечатлили игроков демонстрацией улучшенной боевой системы 3 ч.
GTA VI уже заработала три четверти миллиарда долларов, хотя ещё даже не вышла 4 ч.
Для NPU нашлось полезное применение: его научили отрисовывать интерфейс Windows 11 вместо GPU — пока получается не очень быстро 12 ч.
Nvidia выпустила драйвер с поддержкой World of Warcraft: Forever и нейронного рендеринга DLSS 5 в Hogwarts Legacy и War Thunder 14 ч.
«Честный знак» от Anthropic: компания придумала, как выявлять поддельные нейросети 14 ч.
Apple предупредила инвесторов: ИИ-агенты могут выйти из-под контроля и навредить бизнесу 14 ч.
Следующий большой эксклюзив PS5 не выйдет в срок — разработчики God of War Laufey объяснили перенос 15 ч.
Прибыль Macronix бьёт рекорды на фоне дефицита флеш-памяти 2 мин.
MSI выпустила компьютер Cubi NUC WCG на базе Intel Wildcat Lake в полулитровом корпусе 4 мин.
Космический телескоп Swift почти сгорел в атмосфере Земли после 22 лет наблюдений за Вселенной 2 ч.
Google вложит $15 млрд в развитие ЦОД в Малайзии 2 ч.
California Resources и Bloom Energy планируют развернуть в Калифорнии топливные элементы на 1 ГВт для ЦОД и других потребителей 3 ч.
Рынок серверов для HPC и научных ИИ-задач вырос почти на 20 % — впервые за четверть века в лидеры выбилась Dell 3 ч.
Новая статья: Обзор блока питания MSI MAG A1200PLS PCIE5 10 ч.
Акции бигтехов подскочили после выборов в США — инвесторы увидели спасительный тормоз для ИИ-гонки 12 ч.
Новая статья: Обзор робота-уборщика Dreame L60 Ultra: когда просто нужен качественный пылесос 12 ч.
Qualcomm поможет SpaceX превратить Starlink в полноценного мобильного оператора с 5G 12 ч.