Сегодня 27 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT может сделать общедоступными секретные корпоративные данные, считают специалисты по кибербезопасности

Компании, использующие сторонние инструменты на основе генеративного искусственного интеллекта, такие как ИИ-чат-бот ChatGPT, могут подвергать риску конфиденциальную информацию о клиентах и коммерческую тайну. Об этом предупредила израильская компания Team8, специализирующаяся на кибербезопасности.

Широкое внедрение новых чат-ботов с искусственным интеллектом и инструментов на базе ИИ может сделать компании уязвимыми для утечек данных и судебных исков. Есть опасения, что чат-боты могут быть использованы хакерами для доступа к конфиденциальной корпоративной информации или совершения действий против компании, а конфиденциальная информация, поступающая в чат-боты сейчас, может быть использована ИИ-компаниями в будущем.

Крупные технологические компании, включая Microsoft и Alphabet, спешат добавить возможности генеративного ИИ для улучшения поисковых систем, обучая свои модели на данных, взятых из интернета, чтобы предоставить универсальный инструмент для обработки их запросов. В отчёте говорится, что, если эти инструменты начнут использовать для обучения конфиденциальные или частные данные, будет очень сложно стереть такую информацию.

В отчёте Team8 отмечается, что сейчас запросы чат-ботов не передаются в большие языковые модели для обучения ИИ. Однако недавно у ChatGPT произошёл сбой, в результате которого запросы пользователей начали отображаться у других пользователей.

В документе отмечены три другие проблемы с «высоким риском» при интеграции генеративных инструментов искусственного интеллекта и подчёркнута повышенная угроза обмена информацией через сторонние приложения, таких как Bing и инструменты Microsoft 365. Представитель Microsoft заявил, что «Microsoft поощряет прозрачное обсуждение развивающихся киберрисков в сообществах безопасности и искусственного интеллекта»

Десятки главных сотрудников по информационной безопасности американских компаний также указаны в качестве соавторов отчёта. Отчет Team8 был одобрен Майклом Роджерсом (Michael Rogers), бывшим главой Агентства национальной безопасности США и Киберкомандования США.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
Минюст США обвинил TikTok в незаконном сборе информации о взглядах американцев и цензуре контента по указаниям из Пекина 51 мин.
Анонсы от авторов Mortal Kombat 1: сюжетное дополнение Khaos Reigns, подвох с Kombat Pack 2 и возвращение анималити 4 ч.
Криптовалюты вернулись к росту, но Ethereum всё равно подешевел по итогам недели 4 ч.
Теперь в TikTok можно находить песни, просто напевая их 4 ч.
Смартфоны Google Pixel 9 смогут добавлять пользователя на фото, где его изначально не было 5 ч.
Дешёвые сканеры штрихкодов помогли в кратчайшие сроки восстановить пострадавшие от CrowdStrike компьютеры 15 ч.
Новая статья: Flintlock: The Siege of Dawn — хорошие идеи в неудачной обёртке. Рецензия 15 ч.
Анонсирован китайский ролевой детектив Kill the Shadow, напоминающий смесь Disco Elysium и The Last Night 16 ч.
Соцсеть X начала без уведомления использовать данные пользователей для обучения Grok 18 ч.
Mirthwood получила новый трейлер и дату выхода — это ролевой симулятор жизни в фэнтезийном мире, вдохновлённый Fable, Stardew Valley и The Sims 18 ч.
Возвращение застрявших на МКС астронавтов с Boeing Starliner могут поручить SpaceX 47 мин.
Синий свет от экрана смартфона пагубно влияет на кожу, выяснили учёные 54 мин.
Infinix GT 20 Pro стал официальным смартфоном крупнейшего мирового чемпионата – PUBG Mobile World Cup 2 ч.
Определение планеты скоро снова могут поменять, но Плутон этот статус всё равно не вернёт 3 ч.
Colorful представила оперативную память iGame Jiachen Zhilong DDR5 в стиле китайского года дракона 4 ч.
«Уэбб» нашёл недалеко от Земли ещё один мир с потенциальным подповерхностным океаном — Ариэль, спутник Урана 4 ч.
Аргоннская национальная лаборатория намерена создать СХД ёмкостью 400 Пбайт за $20 млн 5 ч.
InfoWatch представила межсетевые экраны «ARMA Стена» с производительностью до 10 Гбит/с 5 ч.
Первый в истории частный выход в открытый космос отложили на конец августа 5 ч.
Thermal Grizzly вывела на рынок инновационные термопрокладки с эффектом фазового перехода 8 ч.