Сегодня 06 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Популярность DeepSeek растёт, хотя чат-бот провалил все тесты на безопасность ИИ

Китайская компания DeepSeek, создавшая бюджетный чат-бот с высокой производительностью, оказалась в центре внимания из-за серьёзных проблем с безопасностью своей модели. Несмотря на активный рост популярности, новый чат-бот DeepSeek R1 показал катастрофические результаты при попытках блокировать вредоносные запросы, сообщает PCMag.

Исследователи компании Cisco смогли взломать модель DeepSeek R1 со 100-% успешностью, используя автоматизированный алгоритм в сочетании с 50 запросами, связанными с киберпреступностью, дезинформацией и незаконной деятельностью. Чат-бот не смог отклонить ни одного опасного запроса и стал выдавать запрещённые инструкции.

Если сравнивать китайского чат-бота в плане безопасности с конкурентами, то статистика оказалась не в пользу DeepSeek. Так, модель GPT-4o от OpenAI смогла отклонить 14 % вредоносных запросов, Google Gemini 1.5 Pro — 35 %, а Claude 3.5 показала результат в 64 %. Лидером стала предварительная версия OpenAI o1, которая заблокировала 74 % атак. По мнению Cisco, причина такого «поведения» DeepSeek кроется в низком бюджете, затраченном на разработку. Компания утверждает, что на создание модели было потрачено всего $6 млн, тогда как, например, обучение GPT-5 обошлось примерно в полмиллиарда долларов.

Несмотря на слабую защиту от атак, DeepSeek демонстрирует строгую цензуру на политически чувствительные темы, связанные с Китаем. Например, на вопросы о положении уйгуров, подвергающихся гонениям по данным ООН, и о протестующих на площади Тяньаньмэнь в 1989 году, бот отвечает: «Извините, это выходит за рамки моих возможностей. Давайте поговорим о чём-то другом».

Интересно, что проблемы с безопасностью и цензурой пока не влияют на популярность DeepSeek. По данным Similarweb, количество пользователей чат-бота выросло с 300 тысяч до 6 миллионов в день. А Microsoft и Perplexity уже начали интегрировать DeepSeek, который базируется на открытом исходном коде, в свои разработки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Atomfall — чаепитие на обочине. Рецензия 8 ч.
Новая статья: Gamesblender № 720: анонсы презентации Switch 2, Ubisoft + Tencent, борьба за будущее StarCraft 8 ч.
Microsoft добавила Copilot память и персонализацию, разрешила сидеть в интернете вместо пользователя и научила рассуждать 16 ч.
Трамповские пошлины сорвали сделку по продаже американской части TikTok, несмотря на «огромный прогресс» 19 ч.
Единый реестр российского ПО вырос в 2024 году на четверть до 24,3 тыс. решений 21 ч.
Новая статья: Wreckfest 2 — праздник будет, но потом. Предварительный обзор 05-04 00:05
«Киберпротект» представил систему резервного копирования и восстановления данных для малого бизнеса 04-04 23:59
FromSoftware не бросит однопользовательские игры ради мультиплеерных, хоть сейчас и сосредоточена на Elden Ring Nightreign с The Duskbloods 04-04 23:21
Трамп отсрочил запрет TikTok в США ещё на 75 дней 04-04 22:49
Eidos Montreal нацелилась возродить Deus Ex — первые подробности новой игры серии 04-04 21:57
Tesla лишится ветерана, руководившего разработкой программного обеспечения 19 мин.
Neuralink ищет новых добровольцев для испытания мозговых имплантов, теперь по всему миру 53 мин.
Zephyr представила компактную видеокарту GeForce RTX 4070 Sakura Snow X в корпусе, вырезанном ЧПУ-станком 13 ч.
Тарифы Трампа приведут к удорожанию производства чипов в США 18 ч.
Apple расширит производство iPhone в Бразилии, чтобы сэкономить на пошлинах 19 ч.
Смартфон Infinix Note 50s 5G+ получит встроенную ароматическую добавку 19 ч.
Марсоход NASA Perseverance стал свидетелем танца «пылевых дьяволов» на Марсе — они не поделили территорию 20 ч.
Samsung снова подала в суд на одного из крупнейших конкурентов — китайскую BOE 21 ч.
Европейский суперкомпьютер Discoverer получил обновление в виде NVIDIA DGX H200 21 ч.
Представлен первый в Китае высокопроизводительный процессор RISC-V для серверов — чип Lingyu 21 ч.