Сегодня 12 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Еврокомиссии получит больше возможностей наказывать бигтехов за манипулирование пользователями 3 ч.
Meta напугала инвесторов избытком ИИ-мощностей, но в отрасли заявили об обратном 4 ч.
Глава OpenAI Сэм Альтман в очередной раз упрекнул Илона Маска в предвзятом отношении к своим успехам 12 ч.
Новая статья: Crushed in Time — растягивание удовольствия. Рецензия 18 ч.
У ИИ-модели OpenAI GPT-5.6 Sol нашли такие же уязвимости, как у Fable 5 24 ч.
После реорганизации из OpenAI ушёл глава отдела систем безопасности 11-07 15:36
Исследование: четверть постов в соцсетях длиной более 250 слов полностью сгенерированы ИИ 11-07 14:57
Microsoft пришлось объяснять, что уволенных из Xbox сотрудников не заменят гастарбайтерами 11-07 14:51
ИИ-подразделение Ant Group выпустило ИИ-модель для генерации интерактивных миров в реальном времени 11-07 14:43
Google опубликовала Magic Pointer — неанонсированное ИИ-приложение для будущих Googlebook 11-07 14:13
Aruba IT купила ещё три ГЭС для питания своих ЦОД в Италии 4 ч.
Meta построит в Альберте свой первый канадский ЦОД и газовую электростанцию 4 ч.
Грядущий смартфон Hisense A10 с E Ink-экраном получит дополнительный ЖК-экран на магнитах 6 ч.
Власти США сняли ограничения с поставок ИИ-чипов в ОАЭ за заслуги последних перед американским отечеством 10 ч.
Основатель Nvidia Дженсен Хуанг примет участие в праздновании 30-летия Sega в Японии 11 ч.
Google научила квантовый процессор подстраивать себя во время работы — это путь к более сложным вычислениям 11-07 15:33
Siemens и FuelCell Energy совместно запитают ЦОД от топливных ячеек 11-07 14:57
SK hynix привлекла $26,5 млрд в ходе рекордного IPO в США 11-07 13:49
SpaceX зажгла все 33 двигателя на новом ускорителе Super Heavy V3 — запуск Starship ожидается со дня на день 11-07 13:20
Samsung представила бренд OBLYX — под ним будут выпускаться OLED-панели для игровых ноутбуков 11-07 12:39