Сегодня 06 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Два крупнейших фотостока в мире задумали слияние, но антимонопольщики могут помешать 05-01 01:23
Новая статья: Самые ожидаемые игры 2025 года 05-01 00:05
Гендиректор YouTube сделал ставку на ИИ и блогеров 04-01 13:28
Mozilla запустила расширение Orbit для Firefox для обобщения контента с помощью ИИ 04-01 09:03
Министерство юстиции США не считает нужным давать TikTok ещё один шанс сохранить американский бизнес 04-01 08:06
Власти США запретили продавать личные данные американцев в Россию и другие недружественные страны 04-01 07:06
Новая статья: Лучшие игры 2024 года: выбор читателей и редакции 04-01 00:03
Anthropic договорилась с музыкальными издателями по иску о незаконном пересказывании песен ИИ 03-01 17:10
Apple начала самовольно сканировать пользовательские фото на предмет достопримечательностей, но от этого можно отказаться 03-01 17:01
«Не лучшее начало 2025 года»: Sony включила в январскую подборку PS Plus провальную Suicide Squad: Kill the Justice League 03-01 12:23
Новая статья: Итоги 2024 года: мониторы — всё ближе к народу 3 ч.
Стало известно, как будут выглядеть новые материнские платы MSI на чипсетах B860, B850 и B840 3 ч.
Китай освоил передачу спутниковой информации на Землю на скорости 100 Гбит/с с помощью лазера 17 ч.
Очки дополненной реальности RayNeo будут использовать ИИ-модели Alibaba 20 ч.
Imagination лишится гендира после скандала с передачей технологий в Китай 05-01 00:56
Microsoft инвестирует в 2025 финансовом году $80 млрд в создание ИИ ЦОД, больше половины — в объекты в США 05-01 00:00
Южнокорейские производители аккумуляторов начали затягивать пояса, чтобы пережить тяжёлый год 04-01 20:12
Acer скоро представит портативные приставки Nitro Blaze 11 и Blaze 8 с большими экранами 04-01 18:45
PowerColor показала облик грядущей видеокарты Radeon RX 9070 XT Red Devil 04-01 16:58
BenQ показала самый быстрый монитор в мире — 600-герцевый Zowie XL2586X+ для киберспортсменов 04-01 16:24
Включить темный режим