Сегодня 09 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple Intelligence сможет самостоятельно исправлять скомпрометированные пароли 36 мин.
В России количество атак киберпреступников-вымогателей снизилось, но это лишь передышка 41 мин.
Стартап Perplexity заявил, что не торопится с IPO и проведёт его не ранее 2028 года 2 ч.
Хоронить пока рано: амбициозный экшен Marvel’s Blade от авторов Deathloop и Dishonored «не мёртв» 2 ч.
Apple представила расширенные средства родительского контроля на iPhone 2 ч.
«Приключение только начинается!»: олдскульный боевик Mina the Hollower от создателей Shovel Knight достиг новой вершины продаж 2 ч.
Apple анонсировала macOS 27 Golden Gate с Siri AI и средствами настройки Liquid Glass 3 ч.
Apple представила функцию разделения общего счёта за ужин по фотографии чека 6 ч.
iOS 27 получила настраиваемый эквалайзер для AirPods и передачу данных о пульсе через GymKit 11 ч.
Apple лишила не слишком старые iPad и Watch поддержки iPadOS 27 и watchOS 27 11 ч.
Как в «Безумном Максе»: Meta строит в США «палаточные» ЦОД для ИИ-серверов на миллиарды долларов 4 мин.
Власти США хотят перекрыть китайским компаниям одну из лазеек для получения передовых чипов 30 мин.
В России стартовали продажи смартфона Realme C100i — ударопрочный корпус и батарея на 7000 мА·ч за 13 999 рублей 48 мин.
InnoGrit представила контроллер для SSD с интерфейсом PCIe 6.0 вместимостью до 256 Тбайт 49 мин.
В России стартовали продажи белорусских планшетов Horizont H-Tab 2 ч.
OpenAI подала заявку на IPO, но пока не раскрывает его сроки и параметры 3 ч.
OpenAI запустила проект Economic Research Exchange для изучения влияния ИИ на экономику 7 ч.
Новая статья: Компьютер месяца — июнь 2026 года 10 ч.
Google заказала у Intel упаковку 3 млн TPU — у TSMC спрос превысил возможности производства 11 ч.
Новая статья: Крах доктрины: авария тяжелой ракеты New Glenn оставила NASA в полной зависимости от SpaceX 11 ч.