Сегодня 09 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая студия ветерана Halo и Destiny осталась без китайского финансирования — первая игра на паузе, будущее под вопросом 2 мин.
Assassin’s Creed Shadows скрылась от февральских конкурентов — Ubisoft опять перенесла релиз игры 2 ч.
На Пхукете туристам разрешили платить криптовалютой за товары и услуги 4 ч.
Square Enix показала трейлер ПК-версии Final Fantasy VII Rebirth и объявила системные требования для игры в 4K и 60 FPS 5 ч.
xAI выпустил самостоятельное приложение для фривольного ИИ-бота Grok — пока в тестовом режиме и только на iOS 5 ч.
«В этом была бы трагедия Дженсена»: бывший сценарист Eidos Montreal рассказал, каким могло стать продолжение Deus Ex: Mankind Divided 6 ч.
Microsoft подтвердила презентацию Developer_Direct — Doom: The Dark Ages, игра-сюрприз и не только 6 ч.
Медиаплеер VLC получил ИИ-генератор субтитров с переводом на более чем 100 языков — он работает оффлайн 6 ч.
Meta освободила от стандартной модерации рекламодателей, которые приносят больше всех денег 8 ч.
Microsoft вернула старый ИИ-генератор картинок Bing Image Creator, потому что новый работал хуже 8 ч.
DJI представила сверхлёгкие экшен-камеры O4 Air для дронов — трансляция видео в 4K на расстояние до 15 км с задержкой 15 мс 3 ч.
Astrohaus представила клавиатуру Freewrite Wordrunner со счётчиком слов и механическим таймером 4 ч.
PowerColor показала свои Radeon RX 9070 XT и RX 9070 в версиях Red Devil, Hellhound и Reaper 4 ч.
Xpeng Aero HT представила на CES 2025 модульный летающий автомобиль Land Aircraft Carrier, который стоит меньше $300 000 4 ч.
Мощнейший в истории гамма-всплеск может пролить свет на новую физику — аксионы и тайну тёмной материи 4 ч.
Lenovo обновила профессиональные мониторы ThinkVision: от 27 до 34 дюймов, QHD или WQHD и 120 Гц 5 ч.
Zotac показала прототип портативной игровой консоли Zone Gaming на чипе AMD Ryzen AI 9 HX 370 6 ч.
SoftBank и Arm заинтересовались покупкой Ampere, но о переговорах говорить рано 6 ч.
Palit представила компактный ИИ-компьютер Pandora на базе Nvidia Jetson Orin NX Super 6 ч.
Одноплатный компьютер Raspberry Pi 5 стал доступен с 16 Гбайт ОЗУ за $120 6 ч.
Включить темный режим