ИИ-генератор стикеров заработал в Instagram✴ и Facebook✴, и пользователи тут же заставили его создавать непристойности

В Instagram✴ и Facebook✴ Messenger появилась возможность генерировать стикеры по текстовым запросам с помощью ИИ. Некоторые пользователи, получившие доступ к новому инструменту компании Meta✴, уже начали экспериментировать с ним, в результате чего появилось множество забавных, но сомнительных творений.

Источник изображения: twitter.com/Pioldes

Пользователь соцсети X под ником Pioldes, у которого ИИ-генератор стикеров появился в приложении Facebook✴ Messenger, попытался совместить несовместимое, и его творения оказались подчас непристойными: это вооружённый сантехник Луиджи, брат того самого Марио; дети-солдаты; Микки Маус в уборной; крайне сомнительные воплощения канадского премьер-министра Джастина Трюдо (Justin Trudeau), Карла Маркса и ёжика Соника; и даже женщина, которая кормит грудью покемона Пикачу.

Meta✴ представила работающий на основе алгоритмов ИИ генератор стикеров на прошлой неделе. Изображения создаются большой языковой моделью Llama 2 — она, как заявил разработчик, позволяет выдавать десятки качественных стикеров за считаные секунды. Инструмент будет доступен в личных сообщениях и в разделе Stories в Facebook✴ и Instagram✴, а также в Facebook✴ Messenger и WhatsApp. Пока пользоваться им может лишь ограниченная англоязычная аудитория.

В компании не уточнили круг пользователей, которые получили доступ к генератору стикеров. Но уже удалось установить, что некоторые слова в описаниях заблокированы: при попытке их ввести в поле описания стикеров выводится предупреждение, что данная лексика нарушает правила сообщества Meta✴. Выяснилось также, что генерировать неприемлемый контент можно, используя запрещённые слова с опечатками или подменяя их описаниями.

Такого рода сбои характерны при запуске ИИ-инструментов, поэтому в Meta✴, видимо, и решили на начальном этапе ограничить доступ к генератору стикеров. Отладив его на этих ошибках, компания сможет выпустить общедоступную версию.