Ранее в этом месяце компания Figma была вынуждена приостановить работу своего ИИ-помощника для дизайнеров Make Designs. Это случилось после того, как ассистент начал создавать для пользователей проекты, сильно похожие на приложения Apple для платформы iOS. Теперь же специалисты компании изучили данный вопрос и рассказали, почему нейросеть создавала такие проекты.
Источник изображения: Figma
Использование дизайна приложений, похожих на продукты Apple, могло привести к юридическим неприятностям, поэтому пользователи платформы Figma выразили недовольство работой программного решения. Кроме того, инцидент наводит на мысль, что нейросеть Figma могла обучаться на дизайнах Apple и других компаний. Оказалось, что проблема возникла из-за того, что инженеры Figma не проверили должным образом компоненты, добавляемые в генеративную нейросеть.
В сообщении Figma отмечается, что компания «внимательно изучила» базовые системы Make Designs в процессе разработки алгоритма и во время бета-тестирования. Однако за неделю до запуска нейросети в общественный доступ в конфигурацию были добавлены новые компоненты и примеры макетов, которые не были проверены должным образом. Компания признаёт, что некоторые из этих компонентов были похожи на реально существующие приложения, а появились они в результате обработки ИИ-алгоритмом определённых запросов пользователей.
Как только Figma узнала о проблеме с алгоритмами проектирования, компоненты, ставшие источником появления сходства генерируемого контента с реально существующими приложениями, были удалены. В настоящее время компания продолжает работу по улучшению контроля качества, по завершению которой Make Designs снова станет общедоступным. Конкретные сроки, когда ИИ-помощник снова появится в открытом доступе, озвучены не были.