Сегодня 24 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
DeepSeek и MiniMax получили право разворачивать свои ИИ-модели за пределами Китая 57 мин.
Первый в истории Xbox операционный директор покинет компанию спустя несколько месяцев с момента назначения 2 ч.
Новая статья: Forever Ago — вместо письма. Рецензия 7 ч.
Галактическая холодная война, наследие Шепарда и матриарх Лиара: блогер рассказал, чего лишились игроки из-за отмены Mass Effect: Universe 10 ч.
Студия разработчиков Marvel’s Blade, Deathloop и Dishonored оказалась под угрозой закрытия — на поиск покупателя у Arkane осталось три недели 11 ч.
iPod исполнилось 25 лет — сегодня легендарный плеер появился в Apple Music с нарезкой из 1029 песнями 12 ч.
Для Metro 2033 Redux и Metro: Last Light Redux выпущены обновления с поддержкой нейронного рендеринга DLSS 5 13 ч.
ИИ-компании испугались биржи: Anthropic осталась последним претендентом на IPO этой осенью 14 ч.
Аудитория Warhammer 40,000: Space Marine 2 выросла до 15 млн человек — шутер будет получать обновления ещё минимум год 15 ч.
Claude нашёл почти 500 дыр в популярном ПО — одной из них оказался 21 год 16 ч.
Как во времена первых «Айфонов»: старт продаж iPhone Duo собрал у магазинов Apple большие очереди 5 ч.
В MIT создали крошечного робота с плавниками из живых мышц — чтобы плыть, ему не нужны батарейки 9 ч.
Solidigm отказалась от IPO, но не от планов построить фабрику SSD в США 10 ч.
Представлена Sigma FP2 — самая лёгкая полнокадровая беззеркалка в мире, которую можно доработать под свои задачи 13 ч.
Dell представила системы на NVIDIA Vera и первую стойку для инференса на чипах Groq 3 LPU 13 ч.
Китайская YMTC готовит серийное производство LPDDR5X со скоростью 9600 МТ/с и компоновкой 4F2 13 ч.
Nvidia сама спровоцировала дефицит видеокарт GeForce — ради ИИ-чипов, которым негде работать 13 ч.
NVIDIA научилась разворачивать ИИ-ЦОД за две недели вместо полугода 14 ч.
Micron перепрыгнет через поколение и выпустит 3D NAND с более чем 400 слоями в следующем году — она будет на 50 % быстрее 14 ч.
DeepSeek за два года устранит зависимость от Nvidia — основными станут ИИ-ускорители Huawei 15 ч.