Сегодня 11 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Глава Microsoft призвал встроить в ИИ ручной тормоз — модели нужно контролировать с первой секунды 10 ч.
Вдохновлённая Disco Elysium фэнтезийная ролевая игра Esoteric Ebb получит официальный текстовый перевод на русский язык 11 ч.
Новая статья: Ace Combat 8: Wings of Theve — одна из лучших игр серии. Рецензия 24 ч.
«Это будет монументально»: амбициозный боевик Squadron 42 во вселенной Star Citizen получил новый трейлер, 15 скриншотов и страницу в Steam 10-10 20:08
Microsoft выпустила ИИ, который выбирает варианты и не разговаривает — в тестах он оказался в 35 раз быстрее GPT-6 Sol 10-10 18:00
Трамп обещал отделить американский TikTok от Китая, но связи с ByteDance сохранились 10-10 16:56
Стартап из 14 человек подтолкнул Цукерберга к запуску Muse, несмотря на проблемы с безопасностью 10-10 16:08
Гонка ИИ превратилась в ценовую войну — OpenAI догоняет Anthropic 10-10 13:59
Google тестирует новую Gemini 4 Carbon — сотрудники сравнивают её с Claude Opus 5.5 10-10 10:56
Anthropic и OpenAI готовятся к первой крупной катастрофе по вине ИИ 10-10 10:47
Спор на черничное мороженое помог учёным приблизить отказоустойчивый квантовый компьютер 2 ч.
«Машины, которые делают машины»: NVIDIA и Foxconn повысили эффективность сборки платформ NVIDIA GB300 с помощью роботов 2 ч.
Дания одобрила «чрезвычайный план» для электросетей, лишающий большинство ЦОД шанса на быстрое получение питания 3 ч.
Будущий iPad mini с OLED может подорожать сразу на $200 по сравнению с актуальным 3 ч.
Oxide Computer привлекла $445 млн, чтобы нарастить производство своих уникальных стоек 4 ч.
«Яндекс» предупредила о полной остановке работы ЦОД во Владимире из-за атаки БПЛА 10 ч.
Дата-центр «Яндекса» во Владимире полностью остановил работу после атаки БПЛА 13 ч.
Китайцы задавили GoPro на её же поле — DJI и Insta360 захватили 93 % рынка умных камер 16 ч.
Nvidia собирается поглотить американского разработчика открытых ИИ-моделей Reflection AI 18 ч.
Let's Encrypt с февраля 2027 года перейдёт на 64-дневные сертификаты 23 ч.