Сегодня 22 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT может сделать общедоступными секретные корпоративные данные, считают специалисты по кибербезопасности

Компании, использующие сторонние инструменты на основе генеративного искусственного интеллекта, такие как ИИ-чат-бот ChatGPT, могут подвергать риску конфиденциальную информацию о клиентах и коммерческую тайну. Об этом предупредила израильская компания Team8, специализирующаяся на кибербезопасности.

Широкое внедрение новых чат-ботов с искусственным интеллектом и инструментов на базе ИИ может сделать компании уязвимыми для утечек данных и судебных исков. Есть опасения, что чат-боты могут быть использованы хакерами для доступа к конфиденциальной корпоративной информации или совершения действий против компании, а конфиденциальная информация, поступающая в чат-боты сейчас, может быть использована ИИ-компаниями в будущем.

Крупные технологические компании, включая Microsoft и Alphabet, спешат добавить возможности генеративного ИИ для улучшения поисковых систем, обучая свои модели на данных, взятых из интернета, чтобы предоставить универсальный инструмент для обработки их запросов. В отчёте говорится, что, если эти инструменты начнут использовать для обучения конфиденциальные или частные данные, будет очень сложно стереть такую информацию.

В отчёте Team8 отмечается, что сейчас запросы чат-ботов не передаются в большие языковые модели для обучения ИИ. Однако недавно у ChatGPT произошёл сбой, в результате которого запросы пользователей начали отображаться у других пользователей.

В документе отмечены три другие проблемы с «высоким риском» при интеграции генеративных инструментов искусственного интеллекта и подчёркнута повышенная угроза обмена информацией через сторонние приложения, таких как Bing и инструменты Microsoft 365. Представитель Microsoft заявил, что «Microsoft поощряет прозрачное обсуждение развивающихся киберрисков в сообществах безопасности и искусственного интеллекта»

Десятки главных сотрудников по информационной безопасности американских компаний также указаны в качестве соавторов отчёта. Отчет Team8 был одобрен Майклом Роджерсом (Michael Rogers), бывшим главой Агентства национальной безопасности США и Киберкомандования США.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
США ввели персональные санкции против топ-менеджеров «Лаборатории Касперского» 3 ч.
Новая статья: Alan Wake 2: Night Springs — времени мало, вопросов много. Рецензия 4 ч.
На iOS вышел первый облачный игровой сервис — Antstream с сотнями ретро-игр 4 ч.
«Ради такого даже можно "Лигу" обратно скачать»: фанаты League of Legends остались в восторге от трейлера нового PvE-режима в духе Vampire Survivors 4 ч.
Реструктуризация Embracer загубила новую Red Faction с разрушаемостью в духе Red Faction: Guerrilla и элементами immersive sim 5 ч.
Microsoft: новая Fable и Doom: The Dark Ages до сих пор не получили даты выхода из-за GTA VI 7 ч.
Amazon проведёт «капремонт» голосового помощника Alexa и добавит платную подписку за $5–10 в месяц 8 ч.
Слухи: Sony потеряла веру в PS VR2 и оставила в разработке для гарнитуры всего две игры 8 ч.
«Turok, которого у нас не было»: игроков впечатлил трейлер реалистичного шутера с динозаврами и мехами Ferocious 9 ч.
Этичные хакеры стали активно взламывать крупные модели ИИ — у них получается обходить ограничения 9 ч.
Oracle построит в Испании третий облачный регион и инвестирует $1 млрд в течение 10 лет 3 ч.
Альянс CHERI будет продвигать технологию надёжной защиты памяти от атак — первой её могут получить процессоры RISC-V 4 ч.
Kingpin поможет PNY создать оверклокерские видеокарты GeForce нового поколения 7 ч.
В России начались продажи ноутбука HONOR MagicBook 16 Pro с чипом Intel Core Ultra 5 125H и поддержкой ИИ 9 ч.
Стратегия Apple в области ИИ подстегнула рост акций, хотя инвесторы настроены скептически 10 ч.
Представлен смартфон Oppo Reno 11A — AMOLED-дисплей на 120 Гц, зарядка на 67 Вт и цена около $300 10 ч.
Производитель гигантских ИИ-суперчипов Cerebras Systems готовится к IPO 12 ч.
Илон Маск заявил, что суперкомпьютер Tesla увеличит мощность до 500 МВт через полтора года 12 ч.
Corsair выпустила самый быстрый SSD формата M.2 2230 — MP600 Mini R2 со скоростью до 7000 Мбайт/с 12 ч.
AOC представила 27-дюймовый игровой изогнутый монитор AOC Gaming C27G2Z3/BK с Full HD и 280 Гц 12 ч.