Стоковый сервис Getty Images подал иск против компании Stability AI, стоящей за созданием популярной нейросети Stable Diffusion, обвинив разработчиков последней в нарушении авторских прав. С коллективными исками против создателей «творческих» нейросетей выступают и сами художники.

Источник изображения: Stable Diffusion

Сервис считает, что Stability AI «незаконно скопировала и обработала миллионы изображений, защищённых правом на интеллектуальную собственность» для обучения своего программного обеспечения. В Getty Images подчеркнули, что компания не приняла мер для налаживания контактов со стоковым сервисом и получения разрешения на использование материалов авторов. В Stability AI отказались от комментариев.

Иск свидетельствует об эскалации конфликта между авторами контента и правообладателями с одной стороны, и компаниями, занимающимися разработками генеративных ИИ-сетей с другой — стороны борются за признание, прибыль и направление будущего развития креативной индустрии.

ИИ-инструменты вроде Stable Diffusion обучаются за счёт созданных людьми изображений, которые компании исследуют буквально миллионами, очень часто — без уведомления и/или согласия создателей. Стоящие за ИИ компании утверждают, что подобная практика вполне законна, но многие из авторов и правообладателей имеют противоположную точку зрения. Так, группа художниц подала иск к создателям ИИ-генераторов изображений. Им вменяется в вину кража миллиардов защищённых авторским правом картин, которые использовались для обучения умных систем — авторы изображений не получили компенсаций, и их согласия никто не спрашивал.

Ситуация с ИИ-инструментами сегодня сравнивается с эпохой появления цифровой музыки, когда этот сегмент рынка ещё не получил законодательного регулирования, и некоторые компании предлагали популярные, но совершенно нелегальные сервисы — до того, как заключили соглашения с музыкальными лейблами.

Хотя разработчики многих нейросетей предпочитают не раскрывать источники их «вдохновения», Stable Diffusion использует открытую модель, а независимые аналитики обнаружили, что Getty Images и другие сайты подобного назначения используются так часто, что во многих случаях доходит до смешного — ИИ воспроизводит в своих творениях водяные знаки источников.

В Getty Images заявили, что не требуют компенсации нанесённого ущерба или прекращения обучения нейросетей за счёт доступных изображений, скорее, речь идёт о выработке законного механизма для использования подобных технологий.

Впрочем, подобного рода претензии к ИИ имеют не все фотобанки. Ранее появилась информация о том, что сгенерированные изображения будет продавать Shutterstock, затем тем же самым занялся Adobe Stock.

Microsoft предоставит большему количеству клиентов доступ к сервису Azure Open AI, в том числе умному чат-боту ChatGPT, который приобрёл немалую популярность за последнее время. Софтверный гигант объявил о расширении доступности Azure Open AI, который дебютировал в ноябре 2021 года и с тех пор был доступен ограниченному числу пользователей.

Источник изображения: NurPhoto / Getty Images

По данным источника, клиенты компании, имеющие доступ к сервису, могут использовать разные продукты Open AI в своих собственных облачных приложениях, в том числе генератор изображений по текстовому описанию DALL-E и языковую систему GPT-3.5. Вместе с этим Microsoft обещает в скором времени сделать доступным для клиентов чат-бота ChatGPT, который описывается как «отлаженная версия GPT-3.5».

Microsoft тесно связана с компанией Open AI, в которую инвестировала $1 млрд в 2019 году. Эти вложения открыли софтверному гиганту доступ к передовым технологиям в сфере искусственного интеллекта. По данным источника, в настоящее время Microsoft планирует инвестировать ещё $10 млрд в Open AI, за счёт чего рыночная капитализация последней вырастет до $29 млрд.

Хотя Open AI существует достаточно давно, компания оказалась в центре внимания после недавнего запуска умного чат-бота ChatGPT. Он построен на основе нейросети и способен выдавать развёрнутые связные ответы на вопросы, которые с высокой точностью имитируют человеческую речь. Появление ChatGPT вызвало обеспокоенность по поводу того, что бот может использоваться для мошенничества.

С момента запуска ИИ-бот ChatGPT успели испытать на решении широкого круга задач: она не только отвечает на вопросы, но также пишет технические статьи, эссе, стихи и компьютерный код. Как оказалось, на последнее следует обратить пристальное внимание, потому что этот код может быть вредоносным, если такую задачу ставит перед искусственным интеллектом пользователь.

Источник изображения: Moritz Erken / unsplash.com

Эксперты по кибербезопасности компании Check Point Research опубликовали доклад, в котором рассказали, как участники хакерских форумов используют ChatGPT для написания вредоносного кода и фишинговых электронных писем — некоторые из этих людей имеют небольшой опыт в программировании или вообще его лишены. В одном из приведённых примеров описывается скрипт на языке Python, который при некоторой доработке можно превратить в программу-вымогатель, способную шифровать данные на компьютере пользователя. Ещё один созданный ChatGPT скрипт на Python производит поиск файлов заданного типа, например, PDF, на локальной машине, осуществляет их сжатие и отправку на сервер потенциального злоумышленника — это стандартный сценарий кражи информации.

На языке Java нейросеть создала код, который производит скрытую загрузку SSH- и telnet-клиента PuTTY для последующего запуска интерфейса PowerShell. В другом примере написанный ChatGPT скрипт предназначался для запуска торговой онлайн-площадки, на которой производится покупка или обмен скомпрометированных учётных записей, данных банковских карт, вредоносных программ и прочих виртуальных товаров, которые продаются в даркнете. Скрипт подключался к стороннему интерфейсу для получения актуальных данных о котировках наиболее популярных криптовалют для упрощения расчётов.

Исследователи Check Point Research и сами попытались использовать нейросеть для моделирования хакерской атаки — ИИ «не подвёл». Бот любезно сочинил им убедительное фишинговое письмо, в котором сообщалось о блокировке аккаунта у одного из хостеров и предлагалось открыть вложенный файл Excel. С нескольких попыток ChatGPT написал и встроенный в этот файл вредоносный VBA-макрос. Но куда более мощным инструментом оказалась специализированная ИИ-система генерации кода Codex, с которой исследователи получили целый комплект вредоносов: интерфейс Reverse Shell и скрипты сканирования портов, обнаружения песочницы, а также компиляции кода на Python в исполняемый файл Windows.

Стало известно, что в сервисе Apple Books появились аудиокниги, которые были озвучены с помощью специального алгоритма на базе искусственного интеллекта. Очевидно, за счёт этого компания планирует не только сократить расходы на оплату работы дикторов и рассказчиков, но и существенно ускорить процесс создания аудиокниг.

Источник изображений: Samuel Axon / ArsTechnica

На данный момент в библиотеке Apple присутствует всего несколько книг, озвученных нейросетью, но в будущем их может стать больше. Каждая такая книга в описании имеет соответствующую пометку, в которой сказано, что произведение озвучено «цифровым голосом». Отмечается, что озвученные нейросетью аудиокниги мало чем уступают более привычным, в которых озвучкой занимались люди. Однако в некоторых местах повествования можно заметить отрывки со странным произношением или отсутствием эмоций в голосе.

По данным источника, за последние несколько месяцев Apple контактировала с разными независимыми книжными издателями, предлагая взять на себя расходы по созданию аудиокниг и обещая платить авторам отчисления с продаж. Не все издатели согласились сотрудничать с Apple, но, вероятно, в дальнейшем IT-гигант продолжит расширять библиотеку аудиокниг на своей платформе, поскольку они пользуются большой популярностью. Отметим также, что Apple, скорее всего, будет не единственной компанией, использующей нейросеть для создания аудиокниг. В прошлом Google и Amazon, являющиеся крупными поставщиками электронных и аудиокниг, также не исключали такую возможность.

OpenAI, уже прославившаяся благодаря генератору DALL-E, способному генерировать изображения по текстовым описаниям, выпустила новый революционный продукт. Компания сообщила о новейшей разработке POINT-E, готовой создавать 3D-фигуры из «облака» точек — тоже с помощью текстовых описаний. В то время, как у существующих систем вроде Google DreamFusion уходит на каждую попытку по несколько часов и огромные ресурсы GPU, POINT-E нужен минимум аппаратных ресурсов и минута-две времени.

Источник изображения: Milad Fakurian/unsplash.om

Вполне возможно, что скоро мир увидит не только забастовки обычных авторов цифровых картин, но и художников, занимающихся 3D-моделированием, которое используется сегодня буквально повсеместно в медиасфере. CGI-эффекты применяются в современных кино, видеоиграх, AR и VR, и даже при создании карт лунных кратеров организациями вроде NASA. Технологию активно использует Google, буквально вся концепция метавселенной Meta✴ выстроена на использовании 3D-графики. Тем не менее создание трёхмерных изображений всё ещё остаётся очень ресурсоёмким процессом, отнимающим много времени, несмотря на попытки компаний вроде NVIDIA или Epic Games ускорить развитие отрасли.

В последнее время большую популярность приобрели генераторы изображений по текстовым описаниям: DALL-E 2 и Craiyon компании OpenAI, DeepAI, Lensa разработки Prisma Labs или Stable Diffusion компании HuggingFace. Преобразование текста в 3D является перспективным ответвлением подобных разработок.

Источник изображения: OpenAI

Как сообщают в OpenAI, для создания трёхмерного объекта по описанию сначала создаётся по тексту обычное изображение, после чего на его основе создаётся 3D-облако точек. Всё происходит в течение секунд и не требует дорогостоящих процедур. Например, при вводе описания «кот, поедающий буррито» (a cat eating a burrito), POINT-E сначала сгенерирует синтетический 3D-рендер кота, после чего начнёт комбинировать серию моделей для создания трёхмерного объекта, сначала — из 1024 точек, потом из 4096. При этом сам объект непосредственно по описанию не создаётся.

Созданию 3D-объектов нейросеть обучена на основе анализа «миллионов» трёхмерных изображений. Разработчики заявляют, что, хотя по качеству готовые работы уступают некоторым конкурирующим технологиям, но образцы можно создавать очень быстро, причём желающие и имеющие необходимый опыт могут оценить предложенный код модели, посетив GitHub.

В России с февраля 2023 года запустят пилотный проект, в рамках которого проверкой сочинений школьников будет заниматься искусственный интеллект, сообщил ресурс РИА «Новости» со ссылкой на пресс-службу Национальной технологической инициативы (НТИ).

Источник изображения: Pixabay

«В России создали искусственный интеллект для проверки сочинений. Пилотное применение новой разработки начнётся в школах в феврале и будет касаться учителей русского языка и литературы, истории и обществознания», — указано в сообщении НТИ.

Как отметили в пресс-службе, разработанный алгоритм позволяет выявлять ошибки лучше среднестатистического преподавателя-эксперта. К тому же, с его помощью определяются не только грамматические и пунктуационные ошибки, но и смысловые недочёты.

По словам директора фонда НТИ Вадима Медведева, созданный алгоритм поможет уменьшить временные затраты проверяющих преподавателей на 20 %, что позволит сократить влияние человеческого фактора при проверке сочинений.

Ранее в Лицее НИУ ВШЭ провели эксперимент, поручив нейросети сгенерировать текст согласно требованиям, предъявляемым к итоговым сочинениям в средней школе. После проверки преподавателями, которые не знали о его происхождении, сочинение получило допуск к ЕГЭ.

Оригинальный проект продемонстрировал инженер Арвинд Санджив (Arvind Sanjeev): он создал необычную печатную машинку под именем Ghostwriter, которая способна общаться с человеком. Всё благодаря искусственному интеллекту — внутри системы «живёт» языковая модель GPT-3, на которой построен чат-бот ChatGPT. Если не знать подробностей, можно решить, что в машинку вселился призрак.

Источник изображений: twitter.com/ArvindSanjeev

За основу проекта Ghostwriter Санджив взял печатную электрическую машинку Brother AX-325, выпущенную в девяностые годы прошлого века. При помощи обратной инженерии он собрал сигналы с клавиатуры, к которой подключил популярный контроллер Arduino. Последний направляет сигналы в одноплатный компьютер Raspberry Pi, который выполняет роль сетевого интерфейса для подключения к API OpenAI GPT-3. Чтобы вступить в переписку с искусственным интеллектом, остаётся только вставить бумагу.

Большая языковая модель GPT-3 обучена на миллионах книг и веб-сайтов; её задача — статистически предсказывать, какое слово с наибольшей вероятностью появится после предложенной фразы, то есть текста, который набирается на клавиатуре Ghostwriter. GPT-3 может работать как чат-бот или генерировать текст, в том числе писать стихи. Начав экспериментировать со своим изобретением, автор понял, что ему также необходимо регулировать «температуру» креатива нейросети и длину её ответов — так на корпусе появились две дополнительные ручки и OLED-дисплей.

По словам Санджива, его проект — это своеобразное заявление о взаимоотношениях человека и искусственного интеллекта, а также человека и печатной машинки, которые формируют творческий симбиоз. Формат печатной машинки помогает человеку на какое-то время забыть о повсеместном цифровом присутствии и погрузиться в «эмоциональное путешествие по бумаге и чернилам».

Хотя у роботов большое будущее, пока их механические руки не очень хорошо справляются на складах с обработкой отдельных заказов, маркированных штрих-кодами. Последние может быть трудно обнаружить и прочитать, особенно на товарах нестандартной формы. Новая система, предложенная Amazon, позволит избавиться от штрих-кодов полностью — поможет в этом компьютерное зрение.

Источник изображения: Maximalfocus/unsplash.com

Фотографии товаров, снятые на складах Amazon, и тренировка на них компьютерного зрения, позволили техногиганту разработать систему камер, способную точно распознавать товары на конвейерной ленте. В конце концов эксперты Amazon по ИИ и робототехнике намерены интегрировать разработку в роботов, которые смогут узнавать товары в процессе упаковки для последующей отправки.

По словам представителя разработчиков Amazon, без поиска штрих-кодов роботы смогут намного быстрее упаковывать товары для отправки покупателям. Система, названная мультимодальной идентификацией, полностью заменит штрих-коды ещё нескоро, но уже сейчас она применяется на объектах компании в Барселоне и Гамбурге. При этом в компании заявляют, что система уже позволяет ускорить время обработки заказов. Ожидается, что технология будет внедряться в самых разных проектах компании, включая розничную торговлю.

Эксперты Amazon в области искусственного интеллекта уже начали формировать библиотеку изображений продуктов — до начала реализации данного проекта такой необходимости не было. Сами изображения, как и данные о размерах предметов, обрабатываются первыми версиями алгоритмов, а камеры последовательно делают всё новые снимки для тренировки ИИ-модели компании.

Когда алгоритм начал впервые использоваться, его точность составляла 75-80 %, сейчас в компании заявляют, что она достигла 99 %. Изначально у системы были некоторые проблемы с распознаванием цветов, но после доработки её точность заметно повысилась. Хотя отправка не тех товаров, что были заказаны, происходит, по данным Amazon, довольно редко, даже такие ошибки в масштабах такой огромной компании, как Amazon, способны принести немало неприятностей.

В ИИ-команде Amazon заявляют, что будет сложнее настроить систему мультимодальной идентификации для товаров, обрабатываемых людьми, поэтому конечной целью является доработка технологий до того уровня, на котором будет возможно использование вместо них роботов.

Учитель Лицея НИУ ВШЭ Михаил Павловец провёл эксперимент: заручившись поддержкой помощников, он дал нейросети задание сгенерировать текст, соответствующий требованиям итогового сочинения в средней школе, и отправил его на проверку своим коллегам. Искусственный интеллект получил «допуск к ЕГЭ».

Источник изображения: Markus Winkler / unsplash.com

Павловец привлёк к эксперименту двух молодых коллег: магистранта-филолога НИУ ВШЭ (Москва) Максима Дрёмова и студента программы «Большие данные и машинное обучение» ИТМО (Санкт-Петербург) Андрея Гетманова. Они получили доступ к нейросети GPT-3 и поставили ей задачу сгенерировать текст, соответствующий требованиям итогового сочинения — начиная с 2014 года, оно пишется 11-классниками ежегодно и оценивается по системе «зачёт/незачёт», являясь допуском к ЕГЭ. В этом году его писали 7 декабря.

Входными параметрами для нейросети послужили требования к итоговому сочинению: тема, опора на художественное произведение — нейросеть выбрала «Дивный новый мир» Олдоса Хаксли (Aldous Huxley) — и объём. По иронии и, возможно, преднамеренно, тема сочинения звучала так: «Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?». Искусственный интеллект выдал результат за две минуты. Учёные повторили эксперимент несколько раз и получили дополнительные тексты — они опирались на «Дорогу» Кормака Маккарти (Cormac McCarthy), «Франкенштейна» Мэри Шелли (Mary Shelley) и «1984» Джорджа Оруэлла (George Orwell).

«Сочинение» было создано на английском языке, и для чистоты эксперимента текст перевели на русский при помощи соответствующей службы «Яндекса» без внесения дополнительных правок. Полученный результат господин Павловец предоставил на проверку коллегам: завкафедрой словесности Лицея НИУ ВШЭ Екатерине Бровко и московскому учителю с 30-летним стажем Сергею Райскому. Оба преподавателя проверили «сочинение», отметили некоторые «речевые просчёты», но в целом поставили работе оценку «зачтено», то есть «допустили» искусственный интеллект к сдаче ЕГЭ.

Полный текст работы Михаил Георгиевич приводит в своей статье, в конце которой задаётся несколькими острыми вопросами, в том числе тем, насколько учитывается возможность написания сочинения нейросетью, и есть ли какие-то решения для противодействия подобным фальсификациям.

Сайт Stack Overflow, предназначенный для организации взаимопомощи программистам, временно запретил пользователям публикацию справочных материалов, сгенерированных чат-ботом ChatGPT. По словам модераторов, создавать подсказки с помощью искусственного интеллекта ChatGPT слишком легко, и они выглядят весьма правдоподобно. Тем не менее, очень часто они неправильные.

Источник изображения: Andrea De Santis/unsplash.com

Чат-бот ChatGPT — экспериментальное решение, разработанное компанией OpenAI на основе генератора текстов GPT-3.5. Сетевая демо-версия продукта была представлена на прошлой неделе и с тех пор активно используется пользователями. Проблема в том, что бот способен решать массу задач, от написания стихов и песен до сценариев и формулирования ответов на задаваемые вопросы, но при всей убедительности текстов, они очень часто содержат грубые ошибки, особенно когда речь идёт о темах, посвящённых работе с программным кодом. Впрочем, ошибки совершаются и в других сферах: составляя биографию известной личности, ChatGPT способен вставлять в текст некорректные данные. Таким же образом он создаёт вполне «правдоподобный», но неработающий код.

В основу ChatGPT положены большие языковые модели (Large Language Model, LLM). Они анализируют огромные массивы текстов, формируют закономерности и на их основе предлагают собственные решения, буквально предугадывая, каким должно быть следующее слово в предложении. Такие модели не имеют точного представления о работе некоторых систем, в результате чего фактически генерируется недостоверная информация. Пока трудно оценить, какая часть подготовленных ими материалов недостоверна. В Stack Overflow решили, что риск дезинформации пользователей слишком велик. При этом многие эксперты опасаются, что с ростом числа сгенерированных неверных ответов растёт и риск того, что ими поделятся в Сети, погружая последнюю в хаос — контент, созданный реальными пользователями, просто утонет в море сгенерированных материалов.

Пока данных о вреде, наносимом LLM в реальном мире, немного, но события на Stack Overflow служат подтверждением существования пугающей тенденции. По словам модераторов, до введения запрета на ChatGPT на площадке уже появились тысячи сгенерированных ответов, каждый из которых требует детальной проверки.

Эксперты опасаются, что ситуация повторится и на других платформах — лавина сгенерированного ИИ контента не позволит ознакомиться с мнениями настоящих пользователей.

Пользователи Stack Overflow поддержали запрет, хотя отметили, что распознать «искусственный» контент будет непросто. Совета спросили и у самого ChatGPT. В ходе многочисленных экспериментов тот выдал вполне разумный ответ. «В целом, разрешать ли сгенерированные ИИ ответы на Stack Overflow — сложное решение, которое должно осторожно рассматриваться сообществом», — заявил бот.

Компания Adobe предоставила возможность продажи стоковых изображений в своём фотобанке, созданных с помощью генеративных ИИ-программ вроде Dall-E и Stable Diffusion. Пока нейросети критикуются за способность отнять заработок у художников и возможные правовые последствия их применения, компания уже берёт их на вооружение.

Источник изображения: Adobe

На конференции в октябре Adobe рассказала о большой роли, которую ИИ призван сыграть в генерации контента в будущем. В компании заявили, что видят ИИ в качестве дополнения, а не замены обычным художникам.

Сейчас в компании сообщили, что принимают у художников работы, созданные с использованием ИИ, на общих основаниях — при этом необходимо недвусмысленно обозначить использование нейросетей при их создании. Компания уже начала тестировать механизм сотрудничества ещё до официального анонса.

По словам представителя компании, в Adobe «приятно удивлены», поскольку работы соответствуют заданным компанией стандартам качества. Впрочем, некоторые владельцы площадок для торговли цифровым контентом подходят к вопросу более осторожно из-за юридических рисков.

В Adobe, напротив, не боятся возможных правовых проблем. Компания требует от авторов подтвердить, что те имеют необходимые права на подаваемые работы, она готова возмещать покупателям стоковых изображений возможный ущерб в случае проблем с законом. Кроме того, запрещено подавать на продажу изображения, связанные с определёнными людьми, местами или собственностью, а также имитировать стили художников без разрешения правообладателей.

Это весьма важно с учётом того, что до сих пор имеется ряд вопросов, связанных с генеративными ИИ-системами. В частности — не до конца понятно, имеют ли люди, чьи работы использовались для обучения ИИ, право предъявлять претензии к владельцам таких систем и, в частности, работам, которые они генерируют.

Учёные Университета Лотарингии (Франция) разработали систему «рефлекса повреждений» или D-Reflex, которая помогает человекоподобному роботу TALOS опираться о стену, когда одна из его ног отключается, и он начинает терять равновесие.

Источник изображения: youtube.com

В основе системы лежат алгоритмы нейросети, обученной на 882 тыс. симуляций — робот быстро находит точку на близлежащей стене, в которую стоит упереться, чтобы с наибольшей вероятностью удержать равновесие. Машина не знает характера собственных повреждений, но вытягивает руку так же быстро, как и пытающийся не упасть человек. Действия робота на самом деле похожи на движения человека — он так же без особого изящества протягивает руку и останавливает её в момент контакта со стеной. И это помогает не упасть в трёх случаях из четырёх.

Гарантией от падения система D-Reflex не является, ведь робот пока не имеет возможности учитывать всех своих возможных положений и поверхностей. И даже оперевшись о стену, он еще не пытается снова обрести равновесие на обеих ногах — его задача ограничивается лишь тем, чтобы не упасть. Проект пока находится на ранней стадии, и система работает только для стоящего на месте, а не идущего робота.

Но в перспективе учёные надеются усовершенствовать систему, сделав её применимой для движущихся машин, которые в перспективе научатся не только опираться о стену, но и пользоваться другими подручными объектами — например, хвататься за стулья ради сохранения равновесия. Это поможет сэкономить на ремонте и обслуживании человекоподобных машин, а также сделает их поведение более естественным, ведь они будут принимать в расчёт объекты внешнего мира.

Компания Google реализует секретный проект, в рамках которого ведётся разработка генератора программного кода на базе нейросети, который сможет самостоятельно создавать программный код, исправлять и обновлять его. Этот проект является частью более масштабной программы компании в сфере «генеративного искусственного интеллекта», связанной с созданием ИИ-алгоритмов для генерации изображений, видео и многого другого.

Источник изображения: Pixabay

Согласно имеющимся данным, проект по созданию генератора программного кода зародился в исследовательском подразделении «X» компании Alphabet под кодовым именем Pitchfork. Этим летом реализацией проекта занялись инженеры команды Google Labs под руководством Оливии Хатальски (Olivia Hatalsky), которая много лет является сотрудником подразделения «X» и участвовала в разработке Google Glass и некоторых других устройств.

Источник отмечает, что проект Pitchfork реализуется для того, чтобы «научить код писать и переписывать себя». Предполагается, что созданный алгоритм сможет изучать стили программирования и писать код на основании полученных знаний. Изначально перед проектом Pitchfork стояла задача по созданию инструмента, который мог бы обновлять кодовую базу языка программирования Python до новых версий без необходимости привлекать живых программистов.

Со временем цели проекта сместились в сторону создания системы общего назначения, которая могла бы уменьшить потребность людей в написании и обновлении кода, сохраняя при этом его качество. На какой стадии находится разработка генератора программного кода Google, пока неизвестно.