Сегодня 23 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Разработана система обучения ИИ на повреждённых данных — это защитит от претензий правообладателей

Модели искусственного интеллекта, которые генерируют картинки по текстовому описанию, при обучении на оригинальных изображениях могут их «запоминать», поднимая таким образом вопрос о нарушении авторских прав. Для защиты от претензий со стороны правообладателей была разработана система Ambient Diffusion для обучения моделей ИИ только на повреждённых данных.

 Источник изображения: github.com/giannisdaras

Источник изображения: github.com/giannisdaras

Диффузионные модели — передовые алгоритмы машинного обучения, которые генерируют высококачественные объекты, постепенно добавляя шум в набор данных, а затем обращая этот процесс вспять. Как показали исследования, такие модели способны запоминать образцы из обучающего массива. Эта особенность может иметь неприятные последствия в аспектах конфиденциальности, безопасности и авторских прав. К примеру, если ИИ обучается работе с рентгеновскими снимками, он не должен запоминать изображения конкретных пациентов.

Чтобы избежать этих проблем, исследователи из Техасского университета в Остине и Калифорнийского университета в Беркли разработали фреймворк Ambient Diffusion для обучения диффузионных моделей ИИ только на изображениях, которые были повреждены до неузнаваемости — так практически обнуляется вероятность, что ИИ «запомнит» и воспроизведёт оригинальную работу.

Чтобы подтвердить свою гипотезу, учёные обучили модель ИИ на 3000 изображений знаменитостей из базы CelebA-HQ. При получении запроса эта модель начинала генерировать изображения, почти идентичные оригинальным. После этого исследователи переобучили модель, использовав 3000 изображений с сильными повреждениями — маскировке подверглись до 90 % пикселей. Тогда она начала генерировать реалистичные человеческие лица, которые сильно отличались от оригинальных. Исходные коды проекта его авторы опубликовали на GitHub.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Илон Маск намерен построить сразу два крупнейших в мире ИИ-кластера 7 ч.
Samsung случайно упомянула о разработке RISC-V чипа для ИИ-задач 14 ч.
Галлюцинации от радиации: аппаратные сбои могут провоцировать ошибки в работе ИИ-систем 15 ч.
В космос запущена мощная китайско-французская обсерватория слежения за гамма-всплесками 15 ч.
Tesla уволила 14 % работников по всему миру в этом году 15 ч.
«Аквариус» начал производство 1GbE-коммутаторов AQ-N3000, в том числе с поддержкой PoE 16 ч.
Unitree Robotics показала жестокое обращение с робопсами в учебных целях: их пинали, швыряли и били палками 17 ч.
«Нам спешить некуда»: NASA перенесло возвращение корабля Boeing Starliner ещё на неделю 19 ч.
США приближаются к запрету инвестиций в китайское производство чипов и технологии ИИ 21 ч.
Oracle построит в Испании третий облачный регион и инвестирует $1 млрд в течение 10 лет 22-06 00:21