Сегодня 24 августа 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Илон Маск договорился с уволенными в 2022 году сотрудниками Twitter о выплате им выходных пособий в досудебном порядке 4 ч.
МВД сообщает: из-за блокировки звонков в Telegram и WhatsApp мошенники переходят на Google Meet 10 ч.
Оценка Databricks выросла до $100 млрд после очередного раунда инвестиций, но на биржу компания не спешит 10 ч.
Новая статья: Sword of the Sea — красота неописуемая. Рецензия 11 ч.
Google открыла бесплатный доступ к генератору видео Veo 3, но только на эти выходные 18 ч.
Microsoft тестирует бесшовный перенос приложений между Android и Windows 11 22 ч.
Meta будет использовать генеративные алгоритмы Midjourney в своих продуктах 23-08 08:59
ИИ-бот OpenAI ChatGPT использует поисковик Google при генерации ответов на запросы пользователей 23-08 07:22
После возвращения в TikTok президент США Трамп заявил о готовности ещё раз отсрочить его запрет 23-08 03:09
Apple может положить в основу обновлённой Siri модель Google Gemini 23-08 02:43
Foxconn отозвал около 300 китайских сотрудников с индийского предприятия 3 ч.
Правительственные вливания в капитал Intel не спасут компанию без крупных клиентов на новые техпроцессы 5 ч.
Вселенная подарила учёным ярчайший быстрый радиовсплеск в соседней галактике 15 ч.
Первые прототипы ускорителей Nvidia Rubin готовы и проходят квалификационные тесты 17 ч.
Aoostar готовит десктопные материнские платы на мобильных процессорах AMD Ryzen 9 9955HX и 9955HX3D 18 ч.
Секреты коричневых карликов поможет раскрыть уникальная система из четырёх звёзд 19 ч.
Sony возобновит продажи смартфонов Xperia 1 VII в Европе 20 ч.
Apple обвинила бывшего сотрудника в передаче Oppo секретной информации об устройстве Apple Watch 20 ч.
Учёные превратили фотоны в световые торнадо, открыв путь для взрывного роста пропускной способности в оптике 21 ч.
В сентябре Meta представит умные очки Hypernova с дисплеем и браслет для управления ими 22 ч.