Сегодня 30 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft накрыла банду хакеров, которая обманом заставляла ИИ рисовать неподобающие фейки со знаменитостями

Microsoft заявила об обнаружении американских и зарубежных хакеров, которые обходили ограничения генеративных инструментов на базе искусственного интеллекта, включая службы OpenAI в облаке Azure, для создания вредоносного контента, в том числе интимных изображений знаменитостей и другого контента сексуального характера. По данным компании, в этой деятельности участвовали хакеры из США, Ирана, Великобритании, Гонконга и Вьетнама.

 Источник изображения: Mika Baumeister / Unsplash

Источник изображения: Mika Baumeister / Unsplash

В сообщении сказано, что злоумышленники извлекали логины пользователей сервисов генеративного ИИ из открытых источников и использовали их для собственных целей. После получения доступа к ИИ-сервису хакеры обходили установленные разработчиками ограничения и продавали доступ к ИИ-сервисам вместе с инструкциями по созданию вредоносного контента.

Microsoft предполагает, что все идентифицированные хакеры являются членами глобальной киберпреступной сети, которую в компании именуют Storm-2139. Двое из них территориально находятся во Флориде и Иллинойсе, но компания не раскрывает личностей, чтобы не навредить уголовному расследованию. Софтверный гигант заявил, что ведёт подготовку соответствующих запросов в правоохранительные органы США и ряда других стран.

Эти меры Microsoft принимает на фоне растущей популярности генеративных нейросетей и опасения людей по поводу того, что ИИ может использоваться для создания фейковых изображений общественных деятелей и простых граждан. Такие компании, как Microsoft и OpenAI, запрещают генерацию подобного контента и соответствующим образом ограничивают свои ИИ-сервисы. Однако хакеры всё равно пытаются обойти эти ограничения, что зачастую им успешно удаётся сделать.

«Мы очень серьёзно относимся к неправомерному использованию искусственного интеллекта и признаём серьёзные и долгосрочные последствия злоупотребления изображениями для потенциальных жертв. Microsoft по-прежнему стремится защитить пользователей, внедряя надёжные меры ИИ-безопасности на платформах и защищая сервисы от незаконного и вредоносного контента», — заявил Стивен Масада (Steven Masada), помощник главного юрисконсульта подразделения Microsoft по борьбе с киберпреступлениями.

Это заявление последовало за декабрьским иском Microsoft, который компания подала в Восточном округе Вирджинии против 10 неизвестных в попытке собрать больше информации о хакерской группировке и пресечь её деятельность. Решение суда позволило Microsoft взять под контроль один из основных веб-сайтов хакеров. Это и обнародование ряда судебных документов в прошлом месяце посеяло панику в рядах злоумышленников, что могло установить личности некоторых участников группировки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft близка к заключению сделки о постоянном доступе к самым передовым технологиям OpenAI 19 мин.
Photoshop сделал редактирование объектов и людей на фото удивительно простым 32 мин.
Google согласилась подписать европейский свод правил в сфере разработки ИИ 2 ч.
Италия запустила проверку Meta из-за внедрения ИИ-чат-бота в WhatsApp 4 ч.
Meta разрешит программистам пользоваться ИИ на собеседованиях 4 ч.
«Яндекс» раскрыл алгоритм распознавания голосовых команд в шумных условиях 4 ч.
FromSoftware отложила горячо ожидаемое обновление для Elden Ring Nightreign из-за сильнейшего землетрясения на Камчатке 5 ч.
Microsoft прекратила предоставлять облачные услуги связанной с «Роснефтью» индийской Nayara Energy 5 ч.
YouTube разрешил блогерам материться — у видео со сквернословием не будут ограничивать монетизацию 5 ч.
Рублёвый стейблкоин A7A5 набрал популярность — он помогает российским компаниям бороться с санкциями 6 ч.
В ноябре в Москве пройдёт «Электроника России» 2025 — выставка-форум передовых отечественных технологий 40 мин.
YTL Power и NVIDIA инвестируют $2,3 млрд в ИИ в Малайзии — но связано ли это с предыдущей сделкой на $4,3 млрд? 51 мин.
Пентагон заказал разработку аналоговых «мозгов» для дронов и систем автопилота 2 ч.
Groq намерен привлечь $600 млн финансирования — в случае успеха это удвоит капитализацию бизнеса 2 ч.
Представлен китайский серверный процессор Zhaoxin KH-50000: до 96 ядер, 12 каналов DDR5 и 128 линий PCIe 5.0 3 ч.
Micron представила SSD на 122 Тбайт и 14 000 Мбайт/с — следующая модель будет в два раза ёмче 3 ч.
Австралия впервые запустила свою космическую ракету — полёт продлился всего 14 секунд и завершился взрывом 4 ч.
Неожиданный эффект ИИ-бума: прибыль аккумуляторного бизнеса Panasonic взлетела на 47 % 4 ч.
Futurehome вынудила пользователей платить за базовые функции своих устройств умного дома 4 ч.
Цены на DDR4 стабилизировались, а флеш-память NAND приготовилась дорожать 5 ч.