Сегодня 08 февраля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Популярность DeepSeek растёт, хотя чат-бот провалил все тесты на безопасность ИИ

Китайская компания DeepSeek, создавшая бюджетный чат-бот с высокой производительностью, оказалась в центре внимания из-за серьёзных проблем с безопасностью своей модели. Несмотря на активный рост популярности, новый чат-бот DeepSeek R1 показал катастрофические результаты при попытках блокировать вредоносные запросы, сообщает PCMag.

Исследователи компании Cisco смогли взломать модель DeepSeek R1 со 100-% успешностью, используя автоматизированный алгоритм в сочетании с 50 запросами, связанными с киберпреступностью, дезинформацией и незаконной деятельностью. Чат-бот не смог отклонить ни одного опасного запроса и стал выдавать запрещённые инструкции.

Если сравнивать китайского чат-бота в плане безопасности с конкурентами, то статистика оказалась не в пользу DeepSeek. Так, модель GPT-4o от OpenAI смогла отклонить 14 % вредоносных запросов, Google Gemini 1.5 Pro — 35 %, а Claude 3.5 показала результат в 64 %. Лидером стала предварительная версия OpenAI o1, которая заблокировала 74 % атак. По мнению Cisco, причина такого «поведения» DeepSeek кроется в низком бюджете, затраченном на разработку. Компания утверждает, что на создание модели было потрачено всего $6 млн, тогда как, например, обучение GPT-5 обошлось примерно в полмиллиарда долларов.

Несмотря на слабую защиту от атак, DeepSeek демонстрирует строгую цензуру на политически чувствительные темы, связанные с Китаем. Например, на вопросы о положении уйгуров, подвергающихся гонениям по данным ООН, и о протестующих на площади Тяньаньмэнь в 1989 году, бот отвечает: «Извините, это выходит за рамки моих возможностей. Давайте поговорим о чём-то другом».

Интересно, что проблемы с безопасностью и цензурой пока не влияют на популярность DeepSeek. По данным Similarweb, количество пользователей чат-бота выросло с 300 тысяч до 6 миллионов в день. А Microsoft и Perplexity уже начали интегрировать DeepSeek, который базируется на открытом исходном коде, в свои разработки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Sniper Elite: Resistance — пора что-то менять. Рецензия 38 мин.
Krafton анонсировала тактический PvP-шутер PUBG: Blindspot — смесь Rainbow Six Siege и Counter-Strike 2 с видом сверху 45 мин.
Google проводит внутреннее тестирование режима искусственного интеллекта в поисковике 3 ч.
Football Manager 25 отменена — такое происходит впервые в истории и фанаты даже рады 3 ч.
«Поняли, что должны ориентироваться на старых фанатов»: разработчики ремейка «Готики» рассказали о принципах создания игры 5 ч.
Расширенная поддержка Windows 10 обойдётся недёшево — тарифы от $61 за год 5 ч.
У Warner Bros. Games и игры про «Чудо-женщину» большие проблемы, а на горизонте замаячил новый «Бэтмен» от Rocksteady 6 ч.
Meta в партнёрстве с ЮНЕСКО запускает новую программу сбора данных для улучшения речи и перевода ИИ 6 ч.
Topaz Labs представила диффузную ИИ-модель, которая автоматически улучшает старые видео 7 ч.
Mac App Store перестал работать на старых версиях Apple macOS 7 ч.
Airbus признала технологические проблемы в авиации на водородном топливе — быстро не будет 3 ч.
Corsair представила модульный стол Platform:4 для небольших помещений и универсальную панель для хранения аксессуаров 5 ч.
Crusoe Energy и Kalina Power построят в Канаде ИИ ЦОД с питанием от электростанций на природном газе 6 ч.
Казахстан построит оптоволоконную гипермагистраль Запад–Восток 6 ч.
Для мелких производителей ИИ-чипов DeepSeek оказалась не угрозой, а шансом 7 ч.
10 ГВт за 10 лет: Prologis намерена активнее осваивать рынок ЦОД 7 ч.
Партнёры AMD анонсировали свои версии Radeon RX 7650 GRE 8 ч.
Разработчик малых модульных реакторов X-energy получил ещё $700 млн инвестиций 9 ч.
Как у Pixar: Apple показала харизматичного робота-лампу — он может рассказать о погоде, посмотрев в окно 9 ч.
Acer представила «замену настольного компьютера» Predator Helios Neo AI 18 и версию поменьше — с Intel Arrow Lake и GeForce RTX 50-й серии 10 ч.