Сегодня 27 февраля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
DeepSeek запустил ИИ-революцию в Китае: нашумевший ИИ стали внедрять повсюду с подачи партии 32 мин.
Nvidia выпустила драйвер, который устранит одну из проблем GeForce RTX 50-й серии 42 мин.
«Торрент для запуска ИИ»: вышла утилита для распределённого запуска ИИ-моделей на любом оборудовании 43 мин.
Восточноевропейский менталитет, дух книг Сапковского и 14 дней на захват движений: CD Projekt Red рассказала о создании первого трейлера The Witcher 4 55 мин.
Хакеры нашли и эксплуатировали брешь в «Великом китайском файрволе» — её не удалось залатать с первой попытки 3 ч.
Массовое внедрение цифрового рубля отложено на неопределённый срок 4 ч.
Instagram внезапно стал массово показывать неподобающие Reels — в Meta извинились и уже всё починили 5 ч.
Jade Empire могла встать в один ряд с Mass Effect и Dragon Age, если бы не «абсолютно идиотский совет» Microsoft 6 ч.
Microsoft выпустила пару открытых эффективных ИИ-моделей Phi-4 — одну дообучили по новой методике 7 ч.
Выросший из мода для Doom 2 хоррор Total Chaos от автора Turbo Overkill выйдет вместе с VR-режимом для самых смелых — объявлена дата релиза 8 ч.
Galax готовит монструозную видеокарту GeForce RTX 5090 HOF OC Lab для самого экстремального разгона 48 мин.
NVIDIA увеличила выручку, но снизила валовую прибыль — продукты стали сложнее и дороже, а спрос на Blackwell потрясающий 3 ч.
Samsung представила бюджетные смартфоны Galaxy M06 5G и M16 5G на чипах Dimensity 6300 — от $110 3 ч.
Китай рассекретил единственный в мире геостационарный спутник дальнего зондирования Земли 4 ч.
Xiaomi представила лучший камерофон — флагманский Xiaomi 15 Ultra по цене от $900 4 ч.
Blackstone и Panchshil Realty намерены построить за $2,3 млрд «крупнейший в Индии» кампус ИИ ЦОД мощностью 500 МВт 5 ч.
«Яндекс» выделила роботов-курьеров и весь беспилотный транспорт в отдельное бизнес-направление 5 ч.
В марте Луна подвергнется нашествию научных зондов с Земли — SpaceX запустила ещё два аппарата 6 ч.
Nvidia признала в Huawei сильного конкурента и похвалилась ростом продаж ИИ-чипов в Китае, несмотря на санкции 6 ч.
Представлен Armv9-процессор Cortex-A320 для IoT-устройств с ИИ-функциями 7 ч.