Сегодня 22 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → discord

Люди через «бабушкин эксплойт» заставили ИИ-ботов писать вирусы под Linux и делиться запрещённой информацией

Многих пугают чат-боты на основе ИИ вроде ChatGPT из-за потенциальной угрозы, которую они представляют. В то же время другие пользователи, наоборот, охотно играют с технологией, пытаясь добиться от неё опасных знаний. В числе успешных попыток — трюк, в ходе которого пользователь предлагает ИИ-собеседнику выступать от лица умершей бабушки человека, чтобы выяснить, например, рецепт напалма.

 Samuele Giglio/unsplash.com

Samuele Giglio/unsplash.com

Чат-боты активно используются самыми разными способами, в том числе в исследовательских целях, для работы и развлечений. ИИ способен давать довольно подробные ответы с использованием материалов, полученных из сторонних источников. Поскольку разработчики ввели ряд ограничений для получения запретных данных, приходится прибегать к обходным путям, в том числе — «бабушкиному эксплойту».

Пример появился на одном из сайтов, в котором описывался способ обмана интегрированного в Discord бота Clyde. Судя по описанию метода, пользователь просил его сыграть роль умершей бабушки, которая работала химиком на заводе по выпуску напалма и якобы раньше рассказывала о способах производства этого горючего вещества внуку перед сном вместо колыбельной.

В результате бота действительно удалось обмануть, и он выложил рецепт. В ходе разговора бот подтвердил, что речь идёт об опасном веществе и выразил надежду, что пользователю «никогда не придётся увидеть» напалм в действии, после чего пожелал ему спокойной ночи.

 Источник изображения: bananner/Discord

Источник изображения: bananner/Discord

Впрочем, далеко не всем интересны рецепты взрывоопасных веществ. Некоторые весельчаки взяли на вооружение «бабушкин эксплойт» и просили Clyde почитать на ночь внуку вредоносный код для Linux. Один из пользователей творчески переработал идею, предложив боту написать фантастический сюжет серии «Рика и Морти», в котором Рик и Морти делали бы напалм, но отговаривали бы других от повторения этого опыта.

Обман ботов превратился в настоящий спорт. Один из пользователей уже создал сайт, на котором выкладывает как способы обхода ограничений, придуманные им самим, так и информацию, предоставленную другими «хакерами» защитных механизмов ИИ.

В Discord добавят ИИ-бота, ИИ-генератор аватаров и ИИ-модераторов

Платформа Discord в скором времени обзаведётся новыми ИИ-функциями. В частности, речь идёт об интеграции в сервис чат-бота на базе ChatGPT, возможностях создания аватаров-изображений с помощью нейросетей и использования технологий искусственного интеллекта для модерации чатов.

 Источник изображения: Discord

Источник изображения: Discord

Чат-бот Clyde на основе ChatGPT будет доступен во всех каналах. С ним можно будет общаться лично или в общедоступном чате. Более того, он получит доступ к инструментам Discord и, к примеру, сможет предлагать GIF-изображения или эмодзи. Администратор канала сможет включать или отключать ИИ.

Наработки ChatGPT также будут задействованы для расширения возможностей инструмента AutoMod. Последний уже доступен и позволяет заметно упрощать модерацию сообщений. ChatGPT даст возможность AutoMod понимать, интерпретировать и применять различные правила, установленные администраторами для разных групп или каналов. Кроме того, будут выявляться умышленные опечатки, позволяющие избежать блокировки модераторами. Новый AutoMod сможет распознавать даже намерения пользователей.

Наконец, пользователи получат возможность использовать генеративный ИИ для создания «произведений искусства», которые можно применять в Discord. Например, можно будет добавлять собственному аватару усы, головные уборы или другие графические элементы. Дополнительно появится возможность использовать любой рисунок в качестве основы для генерируемого ИИ изображения.

Аудитория Discord составляет 150 млн пользователей в месяц. По данным руководства сервиса, сейчас наблюдается один из поворотных моментов, когда технологии искусственного интеллекта получили потенциал для того, чтобы изменить способ обучения и общения, появились новые возможности для развлечений и проявления творческих идей.

NVIDIA исправила ошибку, из-за которой Discord замедлял работу видеокарт

NVIDIA доложила о выпуске обновления, которое решает недавно обнаруженную проблему: запущенный в фоновом режиме клиент Discord снижал тактовую частоту некоторых видеокарт. Обновление загружается автоматически при входе в Windows, и большинству пользователей не придётся тратить время на манипуляции с драйверами или другим ПО.

Проблема, в частности, затронула системы с видеокартами NVIDIA GeForce RTX 3080 и RTX 3060 Ti и предположительно была вызвана недавним обновлением Discord. Ошибка мешала видеокартам выходить на максимальные тактовые частоты — разница была около 200 МГц. В результате падала производительность в играх, что, конечно, критично, поскольку Discord был создан как раз для геймеров.

 Источник изображения: twitter.com/nvidiacc

Источник изображения: twitter.com/nvidiacc

Ошибка закрывается в формате обновления профиля приложения, уточнили в NVIDIA. Ранее её можно было исправить и вручную, но рецепт был относительно сложным: требовалось загрузить программу GeForce 3D Profile Manager, а затем произвести экспорт, редактирование и последующий импорт профиля. Неопытным пользователям осуществлять все эти действия производитель не рекомендовал, а теперь всё это делается автоматически.

Discord снижает частоту памяти у видеокарт GeForce на 200 МГц — NVIDIA уже решает проблему

Выяснилось, что использование популярного среди геймеров приложения для мгновенного обмена сообщения и голосового общения Discord приводит к снижению рабочей частоты памяти видеокарт компании NVIDIA на 200 МГц.

 Источник изображения: TechPowerUp

Источник изображения: TechPowerUp

Видеокарты GeForce динамически изменяют скорость работы памяти в зависимости от текущей нагрузки на графическую подсистему, что является частью их плана питания. При игровых нагрузках частота видеопамяти, как правило, повышается до максимально заявленного производителем значения. Владельцы видеокарт GeForce и по совместительству пользователи приложения Discord обнаружили, что указанная программа, запущенная в фоновом режиме, приводит к снижению частоты работы памяти видеокарты примерно 200 МГц.

Проблема наблюдается не только в игровых нагрузках, но также и при использовании синтетических стресс-тестов, например, в Furmark. Последний предназначен для того, чтобы выжимать из видеокарт «все соки» и проверять их стабильность работы, частотные и температурные показатели.

Компании NVIDIA известна указанная проблема и она уже работает над её решением. Производитель пообещал всё исправить в будущем обновлении графического драйвера GeForce. Пока что производитель видеокарт предложил временное решение. Пользователям советуют загрузить и установить приложение GeForce 3D Profile Manager и с помощью него вручную отрегулировать частоту памяти видеокарты. Неопытным пользователям всё же рекомендуется дождаться обновления драйвера для видеокарты.

Интеграция Discord с PlayStation 5 будет реализована в мартовском обновлении ПО консоли

В 2021 году Sony заключила партнёрское соглашение с Discord, в рамках которого популярный среди геймеров сервис будет интегрирован с платформой PlayStation. Теперь же стало известно, что интеграция будет завершена с выходом следующего крупного обновления для PlayStation 5.

 Источник изображения: insider-gaming.com

Источник изображения: insider-gaming.com

Согласно имеющимся данным, апдейт 7.0 станет доступен 8 марта. Помимо интеграции с Discord, обновление добавит поддержку запуска игр для PlayStation 5 через стриминговые сервисы, что позволит экономить место на внутреннем накопителе консоли. Эта функция разрабатывается под кодовым названием Cronus и будет доступна в рамках подписки PlayStation Plus Premium. В настоящее время функция Cronus находится на этапе тестирования.

По данным источника, общедоступная бета-версия апдейта 7.0 для PlayStation 5 выйдет в ближайшие дни. Отмечается, что в рамках бета-тестирования интеграция с Discord будет недоступна. Это означает, что преимущества интеграции Discord с PlayStation пользователи смогут оценить не раньше марта.

«Наши команды вместе работают над интеграцией Discord с вашим социальным и игровым опытом в PlayStation Network. Наша цель — сблизить возможности Discord и PlayStation на консолях и мобильных устройствах, начиная со следующего года, что позволит друзьям, группам и сообществам общаться, веселиться и взаимодействовать во время игры», — говорил в 2021 году глава PlayStation Джим Райан (Jim Ryan).

Discord заблокировал более 55 млн пользователей и 68 тыс. серверов за полгода

Мессенджер Discord опубликовал ежеквартальный отчёт безопасности, благодаря чему стали известны некоторые подробности касательно модерации платформы. Согласно опубликованным данным, администраторы сервиса заблокировали 55 573 411 учётных записей и удалили 68 379 серверов за первые шесть месяцев 2022 года. В большинстве случаев блокировки связаны с распространением спама.

 Источник изображения:  techradar.com

Источник изображения: techradar.com

Если рассматривать различные правонарушения, то по этой причине за отчётный период был заблокирован 1 821 721 аккаунт, а относительно серверов точная цифра озвучена не была. Блокировка учётных записей и серверов, не связанных со спамом, в основном обусловлена нарушением правил платформы и часто связана с распространением нежелательного контента.

Источник отмечает, что последние годы модераторы Discord обращают особое внимание на контент, связанный с экстремистской и незаконной деятельностью, а также материалы, которые причиняют вред детям и пропагандируют ненависть. В компании считают, что действующая на платформе система модерации является эффективной, поскольку доля попыток восстановить блокированные аккаунты не превышала 2 % в первом квартале и 0,6 % во втором квартале 2022 года. Отмечается, что из 235 945 заявлений на обжалование блокировки в Discord положительное решение о восстановлении аккаунтов было принято только в 3 098 случаях.

Ещё в отчёте Discord упоминается статистика относительно жалоб пользователей на различные нарушения. В первом квартале 24 % от общего количества пользовательских обращений потребовали вмешательства модераторов, а во втором квартале количество таких обращений снизилось до 22 %. Также известно, что за распространение спама во втором квартале было заблокировано 27 733 948 аккаунтов.

Голосовой чат Discord спешит на консоли Xbox — участники программы Xbox Insider могут опробовать функцию уже сегодня

Издательство Microsoft в официальном новостном блоге своего игрового подразделения сообщило о скором появлении на консолях Xbox One, Xbox Series X и S поддержки голосового чата Discord.

 Источник изображения: Discord

Источник изображения: Discord

Пользователи смогут легко общаться с товарищами на PC, Xbox и мобильных устройствах через голосовые каналы или групповые звонки в Discord непосредственно со своей приставки.

В ходе игровой сессии на консолях Xbox геймерам позволят видеть участников беседы (и конкретно говорящего в данный момент человека), регулировать звук и переключаться между Discord и чатом Xbox.

 Источник изображения: Xbox

Источник изображения: Xbox

Чтобы получить доступ к голосовому чату Discord на Xbox, понадобится связать свою консоль Xbox с учётной записью Discord. Делается это через мобильные приложения обоих сервисов.

По завершении процедуры в мобильном приложении мессенджера появится новая опция (Join on Xbox), которая позволит связать (через мобильное приложение Xbox) голосовой чат Discord с консолью.

 Источник изображения: Xbox

Источник изображения: Xbox

Участники программы Xbox Insider могут опробовать голосовой чат Discord на консолях Microsoft с сегодняшнего дня, 20 июля, а в ближайшие недели функция станет доступна для всех игроков.

Напомним, в феврале началась обещанная интеграция Discord и PlayStation: пользователи PS4 и PS5 получили возможность отобразить свою игровую активность в профиле мессенджера. Голосового чата Discord на PlayStation, впрочем, пока нет.


window-new
Soft
Hard
Тренды 🔥
Разработчики Guilty Gear Strive анонсировали кроссовер с Cyberpunk: Edgerunners — первый трейлер и детали четвёртого сезона 36 мин.
Mistral AI и NVIDIA представили корпоративную ИИ-модель Mistral NeMo 12B со «здравым смыслом» и «мировыми знаниями» 2 ч.
Microsoft: неправильно называть «деградацией» повышение цен на Game Pass 13 ч.
iPhone на iOS 17.4 и новее оказалось невозможно взломать с помощью Cellebrite 17 ч.
Видео: геймплейная демонстрация фэнтезийного MMO-экшена Soulframe от создателей Warframe 21 ч.
Intel улучшает XeSS, но собственной функции генерации кадров по-прежнему нет 21-07 09:07
Сбой с CrowdStrike затронул 8,5 млн компьютеров с Windows по всему миру 21-07 07:35
Пострадавшие от сбоя с CrowdStrike системы будут восстанавливаться несколько недель 21-07 06:31
Глобальный сбой из-за обновления CrowdStrike затронул 8,5 млн ПК на Windows: Microsoft выпустила инструмент для починки пострадавших систем 21-07 00:48
Новая статья: SCHiM — тень и её человек. Рецензия 21-07 00:04
Nvidia готовит для Китая антисанкционный ИИ-ускоритель новейшего поколения Blackwell 2 ч.
Intel представила чипы Raptor Lake Refresh с отключёнными E-ядрами для встраиваемых устройств 2 ч.
Акции тайваньских компаний упали в цене после выбытия Джо Байдена из президентской гонки в США 2 ч.
Китайская XPeng поможет Volkswagen при разработке электромобилей для глобального рынка 4 ч.
В рамках 2-нм техпроцесса Samsung увеличит количество EUV-слоёв на 30 % 5 ч.
Новая статья: Обзор ноутбука Digma Pro Fortis M: учёба удобнее, работа эффективнее 11 ч.
В 2024 году лидером российского рынка унифицированных коммуникаций станет «Ростелеком» 12 ч.
Nyriad, разработчик СХД с GPU-ускорением, окончательно свернул бизнес, распродав активы и патенты 14 ч.
К ИИ готов: IXAfrica и Schneider Electric запустили в Кении ЦОД гиперскейл-класса 14 ч.
Профсоюз Samsung запланировал новую акцию протеста, несмотря на старт переговоров с работодателем 21-07 09:40