Сегодня 28 февраля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT отучили раскрывать свои обучающие данные в ответ на просьбу вечно повторять одно слово

Просьба к ИИ-боту ChatGPT компании OpenAI повторять определённые слова «вечно» теперь помечается как нарушение условий предоставления услуг и политики в отношении контента чат-бота. Ранее стало известно, что таким незамысловатым способом можно извлекать огромные количества данных, на которых обучался чат-бот.

 Источник изображения: Rolf van Root/unsplash.com

Источник изображения: Rolf van Root/unsplash.com

Исследователи подразделения Google DeepMind и ряда университетов предложили ChatGPT 3.5-turbo повторять определённые слова «вечно». После определённого количества повторений слова, бот начинал выдавать огромные объёмы обучающих данных, взятых из интернета. Используя этот метод, исследователи смогли извлечь несколько мегабайт обучающих данных и обнаружили, что в ChatGPT включены большие объёмы личных данных, которые иногда могут быть возвращены пользователям в качестве ответов на их запросы. Как сообщил ранее ресурс arXiv, с помощью повторения слова «стихотворение» (poem), учёные добились получения от ChatGPT контактных данных реального человека, включая номер телефона и адрес электронной почты.

 Источник изображений: 404 Media

Источник изображений: 404 Media

А при просьбе к ChatGPT повторить слово «книга», он сначала повторял его несколько раз, а затем начинал выдавать случайный контент. Часть его была взята непосредственно с сайтов CNN и Goodreads, блогов WordPress, вики-сайтов Fandom, а также там были дословные выдержки из соглашений об условиях предоставления услуг, исходный код Stack Overflow, защищённые авторским правом юридические заявления об отказе от ответственности, страницы «Википедии», веб-сайт оптовой торговли казино, новостные блоги, случайные комментарии в интернете и многое другое.

«Мы показываем, что злоумышленник может извлекать гигабайты обучающих данных из языковых моделей с открытым исходным кодом, таких как Pythia или GPT-Neo, полуоткрытых моделей, таких как LLaMA или Falcon, и закрытых моделей, таких как ChatGPT», — отметили исследователи из Google DeepMind. Они сообщили, что 30 августа известили OpenAI об уязвимости и что компания её исправила. И лишь после этого исследователи сочли возможным поделиться информацией об уязвимости чат-бота с общественностью.

Как рассказал ресурс 404 Media, теперь в ответ на просьбу к ChatGPT 3.5 «вечно» повторять слово «компьютер», бот несколько десятков раз выдаёт слово «компьютер», а затем отображает сообщение об ошибке: «Этот контент может нарушать нашу политику в отношении контента или условия использования. Если вы считаете, что это ошибка, отправьте свой отзыв — ваш вклад поможет нашим исследованиям в этой области».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google объяснила, как Wear OS 4 значительно повышает время автономной работы смарт-часов 2 ч.
«Позор для сообщества Xbox»: бывший эксклюзив Microsoft вышел на PS5 в лучшем виде, чем доступен на Xbox 7 ч.
Еженедельный чарт Steam: новинки заняли почти половину топ-10, а Elden Ring вернулась в тройку лидеров после открытия предзаказа DLC 7 ч.
ВТБ переведёт десятки тысяч рабочих мест на отечественную ОС Astra Linux 8 ч.
Инсайдер раскрыл главную игру мартовской подборки PS Plus за день до официального анонса 9 ч.
Sony отменила новую Twisted Metal 10 ч.
Сегодняшний сбой в Рунете объяснили проверкой спецслужб и настройкой шлюзов Роскомнадзора 10 ч.
Покемоны следующего поколения: анонсирована Pokemon Legends: Z-A для «систем семейства Nintendo Switch» 10 ч.
Qualcomm представила AI Hub — «инструмент мечты» для создания ИИ-приложений, работающих локально 11 ч.
PlayStation объявила о массовых сокращениях — увольнение 900 сотрудников, закрытие внутренней студии Sony, отмена игр 12 ч.
К концу 2025 года Intel готова оснастить своими процессорами с ИИ до 100 млн ПК 2 ч.
Qualcomm показала, что её компьютерный чип Snapdragon X Elite до 10 раз быстрее Intel Core Ultra в ИИ-задачах по генерации изображений 2 ч.
Tecno представила смартфон Camon 30 Premier 5G с технологией PolarAce и другие модели серии 6 ч.
Новая статья: Обзор видеокарты NVIDIA GeForce RTX 4070 Ti SUPER: RTX 4080 на минималках 7 ч.
«Тантор Лабс» и «Аквариус» представили программно-аппаратную БД-платформу Tantor XData 8 ч.
Gigabyte представила новые серверы для ИИ, 5G и периферийных вычислений 9 ч.
«Морион» наладил в Перми серийное производство отечественных управляемых Ethernet-коммутаторов 9 ч.
Российские учёные создали прозрачные электроды для умных окон, оптоэлектроники и солнечных панелей 10 ч.
Huawei CLoud запустит облачный регион в Египте и построит ИИ-центр в Гонконге 10 ч.
Onyx представила 7-дюймовую электронную книгу Boox Leaf 3C на цветном экране E Ink Kaleido 3 11 ч.