Сегодня 03 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Московский суд не признал сгенерированные ИИ изображения творчеством 6 ч.
OpenAI запуталась в приоритетах и теперь пытается догнать конкурирующую Anthropic 16 ч.
Новая статья: Gamesblender № 787: дата выхода God of War Laufey, бета Gears of War и томский «стимулятор» таксиста 24 ч.
Microsoft научит Windows 11 экономить оперативную память — улучшения выйдут уже осенью 01-08 21:13
Торговать в Crimson Desert стало удобнее и выгоднее — подробности обновления 1.16.00 01-08 20:01
Утверждён список приложений для предустановки в России на 2027 год 01-08 13:32
Google сделает исключение для стран под санкциями — Android-разработчиков там не будут проверять 01-08 11:31
Ещё несколько ИИ-агентов OpenAI вышли из-под контроля — до взломов, кажется, не дошло 01-08 11:23
OpenAI сообщила, что её сервисами теперь пользуются более миллиарда человек и свыше двух миллионов компаний 01-08 09:47
Такой Google Earth нам не нужен: функцию генерации спутниковых снимков отключили из-за злоупотреблений 01-08 07:36
Apple собирается превратить будущие умные очки в гаджет для фитнеса 2 ч.
Sony заявила о достаточных запасах памяти для производства PS5 в этом году даже с учётом выхода GTA 6 5 ч.
Supermicro представила серверные стойки со статической нагрузкой до 2500 кг 10 ч.
Arm объявила о растущем спросе на её процессор для ЦОД, но акции упали из-за ожидаемого снижения роялти от смартфонов 10 ч.
Samsung отмечает рост спроса на 2-нм и 1,4-нм продукцию, будет расширять профильные мощности 16 ч.
Акции SpaceX опустились на 20 % ниже цены июньского размещения 18 ч.
Alibaba предоставила Moonshot вычислительные мощности на 20 000 чипов Nvidia для обучения моделей Kimi 18 ч.
В Китае появилась «квантовая» подстанция — электросети никогда ещё не были так защищены 01-08 21:09
AM4 снова в моде: Gigabyte представила плату B550 Aorus Elite WIFI7 для процессоров Ryzen 5000 01-08 17:26
Tecno представила концепт смартфона с полностью безрамочным дисплеем 01-08 16:41