Документы компании Apple раскрыли подробности о технологии масштабирования MetalFX. Информация, содержащаяся в разделе Legal & Regulatory программных продуктов Apple, указывает, что в основе MetalFX используется технология масштабирования FidelityFX Super Resolution (FSR) компании AMD, пишет портал Notebook Check.

Источник изображений: Apple

Apple описывает MetalFX, как фреймворк, который интегрируется вместе с API Metal для повышения качества изображения из более низкого входного разрешения в более высокое выходное разрешение. При этом с задачей он справляется за меньшее время, чем GPU требуется отрисовать изображение в изначально высоком родном разрешении.

Иными словами, технология позволяет снизить уровень использования аппаратных ресурсов и одновременно повысить уровень игровой производительности. До недавнего времени предполагалось, что Apple разработала MetalFX полностью самостоятельно. Однако более внимательное знакомство с лицензионными соглашениями для программного обеспечения компании раскрыло, что в основе MetalFX используется технология AMD FSR.

В отличие от FSR-масштабирования MetalFX не имеет открытого исходного кода. Вероятно, Apple доработала технологию под свои нужды. Примечательно, что в состав MetalFX входит поддержка технологий временного и пространственного масштабирования, а также различные методы сглаживания, которые являются основными элементами технологии FSR от AMD. Также любопытно, что множество игр, которые уже вышли для устройств Apple или готовятся выйти, а это Death Stranding, No Man’s Sky, Resident Evil Village, Myst, Resident Evil 4, Assassin’s Creed Mirage, Lies of P, Baldur’s Gate 3 и The Medium, поддерживают в том числе AMD FSR.

Для разработчиков игр, которые портируют свои проекты с поддержкой AMD FSR на macOS, очевидно удобнее реализовывать в этих играх поддержку MetalFX, поскольку обе технологии очень похожи. Это также помогает объяснить, каким образом полноценная ПК-игра Resident Evil Village без проблем работает на мобильном процессоре A17 Pro смартфона iPhone 15 Pro.

Даже если Apple в итоге не платит никаких роялти за использование FidelityFX Super Resolution компании AMD, последняя всё равно может извлечь из этого пользу. Разработчики игр, зная, что FSR служит основной MetalFX, будут активнее внедрять поддержку FSR в свои проекты. Таким образом это поможет более быстрому распространению технологии AMD. С точки зрения Apple, чем больше разработчиков будут создавать игры с поддержкой FSR, тем больше шансов, что эти игры в итоге также окажутся и на её платформе.

Компания AMD сделала свою технологию интеллектуального масштабирования изображения в играх AMD FidelityFX Super Resolution 3 (FSR 3) открытой, опубликовав её исходный код под лицензией MIT. Теперь разработчики и энтузиасты могут её изучить и интегрировать в свои игры и другие разработки.

Источник изображения: VideoCardz

На данный момент релиз открытого исходного кода включает поддержку технологии только для DirectX 12 и Unreal Engine 5. Поддержка Vulkan пока находится в разработке. Её планируют выпустить позднее.

Источник изображения здесь и ниже: AMD

В состав FSR 3 входит компонент Frame Generation или генератор кадров. Сам по себе Frame Generation опционален. Его необязательно использовать в рамках интеграции FSR 3. Тем не менее компания опубликовала все необходимые DLL-библиотеки для его использования. И это первый случай, когда какая либо-компания публикует свою технологию генерации кадров открытым исходным кодом. Для игр, в которых уже есть поддержка FSR2, AMD рекомендует заменить FSR2 на версию 3.0.

AMD сообщает, что в версии FSR3 v3.0.3 были внесены улучшения качества и расширена поддержка мониторов с переменной частотой обновления (VRR) в логике управления кадрами.

Весь необходимый инструментарий, а также инструкции по интеграции FSR 3 можно найти на сайте GPU Open. Сам исходный код технологии также опубликован в репозитории на сайте GitHub.

В начале этого года Microsoft представила значительное обновление Microsoft Teams, интегрировав его с Microsoft Mesh — платформой смешанной реальности (XR). Это инновационное решение обещает стать прорывом в области корпоративных коммуникаций, переведя встречи в 3D-формат и сделав их доступными даже без использования VR-гарнитур.

Источник изображений: Microsoft

Microsoft Mesh, изначально задуманный как независимая платформа на основе Azure, теперь интегрирован непосредственно в Teams. Это изменение направлено на упрощение доступа к виртуальным встречам. События последних лет, включая уход Алекса Кипмана (Alex Kipman), руководителя проекта HoloLens, и закрытие социальной VR-платформы AltspaceVR, приобретённой Microsoft в 2017 году, заметно повлияли на VR/AR-стратегию компании. Николь Херсковиц (Nicole Herskowitz), вице-президент по маркетингу Teams, подчеркнула, что Mesh теперь стал частью повседневной работы многих сотрудников компании.

Microsoft конкурирует в пространстве 3D-встреч с такими компаниями, как Meta✴, Jugo, Frame и другими стартапами, стремящимися изменить будущее корпоративных встреч. Однако у Microsoft есть значительное преимущество благодаря огромной пользовательской базе Teams, насчитывающей более 320 млн активных пользователей в месяц. Кроме того, недавнее партнёрство с Meta✴, которое включает интеграцию Teams, Office, Windows и Xbox в VR-гарнитуры Meta✴, расширяет возможности Microsoft в этой области.

Тестирование Mesh в Teams с помощью гарнитуры Meta✴ Quest 3 показало разнообразие возможностей виртуального пространства. Пользователи могут выбирать между различными типами мест для встреч: от формальных переговорных комнат до неформальных зон для социальных событий. Также доступны командообразующие активности, такие как бросание мешочков с фасолью, создание музыки и поджарка маршмеллоу. Эти виртуальные взаимодействия усиливают чувство командного духа и вовлечённости сотрудников.

Mesh в Teams использует пространственное аудио и аудиозоны, что позволяет нескольким людям вести одновременный разговор в одном виртуальном пространстве, не перебивая друг друга. Это отлично подходит для естественных переговоров в перерывах, которые часто бывают неловкими при использовании Teams, Zoom или других программ для проведения совещаний.

Например, международная благотворительная организация Mercy Ships использует технологию Microsoft Mesh для создания 3D-моделей своих госпитальных кораблей, что позволяет участникам мероприятий по сбору средств виртуально погрузиться в атмосферу на его борту. Также Mercy Ships использует эту технологию для адаптации своих новых сотрудников и, возможно, будет использовать её для их обучения в будущем.

Несмотря на вызовы, связанные с массовым принятием VR-технологий, Microsoft делает ставку на будущее, где виртуальные встречи станут нормой. Со временем, как подсказывает Янси Смит (Yancey Smith), генеральный менеджер коммерческого и потребительского направлений смешанной реальности Microsoft, ожидается дальнейшее расширение возможностей Teams с помощью ИИ, включая генерацию виртуальных досок для записей и объектов для взаимодействия в 3D-пространстве.

Adobe обновила свои флагманские решения для редактирования фотографий и видео — Photoshop и Premiere Elements 2024, интегрировав в них ряд функций на основе искусственного интеллекта. Теперь фирменная платформа компании Sensei AI полноценно задействована в творческом процессе пользователей, начиная от автоматического выделения сложных объектов и заканчивая монтированием роликов профессионального уровня.

Источник изображений: Adobe

В Photoshop Elements 2024 появился инструмент, который автоматически выделяет объекты и фоны для их удаления, редактирования или замены. Эта функция является улучшенной версией аналогичной технологии Pixel Magic Eraser компании Google. По словам Adobe, с помощью этого инструмента можно, например, заменить небо, что будет полезно тем пользователям, которые хотят превратить обыденные фотографии на открытом воздухе в завораживающие воображение изображения.

Инструменты на основе ИИ позволяют сгладить кожу человека на фотографии и выполнить ряд автоматических умных исправлений. Также в Photoshop Elements задействована новая функция Artistic Effect, позволяющая преобразить изображение в нечто, напоминающее известное произведение искусства.

Платформа Adobe Sensei AI также позволяет увеличивать масштаб изображений и удалять артефакты, придавая объектам на фотографиях более естественный вид.

Что касается Premiere Elements 2024, то в этом видеоредакторе ИИ задействован для автоматического создания роликов с яркими моментами из предоставленного пользователем видеоматериала. Компания утверждает, что ролики, созданные с помощью ИИ, привлекают внимание зрителей, акцентируя его на движении людей и объектов в кадре, крупных планах и высоком качестве отснятого материала.

Разумеется, нововведения Adobe не ограничиваются только использованием ИИ. В Photoshop Elements добавлены новые цветовые и тональные пресеты, а также слайды, которые можно сохранять в форматах MP4 и GIF. Premiere Elements обзавёлся набором новых аудиоэффектов, таких как реверберация, и несколькими встроенными пресетами для создания уникальной атмосферы. Как и Photoshop, Premiere получил новый дизайн и доступ к коллекции учебных пособий Guided Edits, которые помогут пользователям освоить различные действия в процессе работы.

Команда разработчиков «Яндекса» представила новую диффузионную нейросеть Yandex AI Rendering Technology (YandexART), которая создаёт изображения и анимацию в ответ на текстовые запросы пользователей.

Примеры созданных YandexART изображений (источник: пресс-служба «Яндекса»)

YandexART формирует изображения и анимацию методом каскадной диффузии: сначала нейросеть генерирует картинки и кадры в соответствии с запросом пользователя, а затем поэтапно увеличивает их разрешение, насыщая деталями. В качестве обучающего набора данных были задействованы 330 млн изображений с текстовым описанием. Также разработчиками был реализован новый алгоритм распознавания текстов, помогающий нейросети лучше понимать пожелания пользователей.

Отличительной особенностью YandexART является понимание российского культурного кода — нейросеть знает известные места и города страны, выдающихся личностей разных эпох и знакомых с детства персонажей мультфильмов и сказок. Например, Чебурашку, богатырей и Бабу-Ягу.

Нейросеть уже интегрирована в мобильное приложение «Шедеврум» и помогает иллюстрировать рекламные объявления в «Яндекс Бизнесе». Вскоре YandexART появится в «Яндекс Клавиатуре» и других сервисах компании.

На ежегодной конференции Adobe Max компания Adobe представила не только коммерческие продукты, которыми её клиенты смогут воспользоваться в обозримом будущем, но и 11 перспективных решений, которые пока находятся на стадии разработки — все они объединяются её программой Sneak.

Источник изображения: Adobe

Решение под названием Project Stardust позволяет взаимодействовать с объектами на растровом изображении — они идентифицируются алгоритмом, как если бы находились на отдельных слоях. А это, в свою очередь, позволяет их захватывать и перемещать, не пользуясь традиционным инструментом «Лассо». Фон за удалёнными объектами автоматически дорисовывается в соответствии с окружением.

Концепт под названием Project Primrose выбивается среди прочих решений, потому что это не алгоритм, который когда-нибудь появится в одной из программ Adobe, а вполне осязаемый предмет — интерактивное платье из «гибких текстильных дисплеев», которые позволяют выводить узоры на вкус своей хозяйки. Едва ли это изобретение можно назвать практичным, но в эстетичности ему не откажешь.

Алгоритм Project Poseable характеризуется Adobe как «прорыв в создании моделей на основе ИИ». Пользователь задаёт образец в виде обычного двухмерного изображения, например, фотографии — алгоритм его анализирует и соответствующим образом корректирует позицию 3D-модели. Получается своего рода аналог технологии захвата движения, только образцом служит не живой человек с сенсорами на теле, а его снимок.

Технология Project Dub Dub Dub не связана с изображениями — это переводчик, который поддерживает несколько языков и озвучивает перевод языком говорящего. То есть можно услышать самого себя, только говорящим на другом языке, причём реплики автоматически подстраиваются под исходный темп речи. Получается полноценный дубляж, который, возможно, избавит от необходимости привлекать для этого актёров, если, конечно, перевод будет достаточно точным.

Наконец, ещё одно заслуживающее внимания решение получило название Project See Through. Этот алгоритм позволяет корректировать снимки, которые были сделаны сквозь окно — он достаточно эффективно удаляет полупрозрачные отражения в стекле. Такой инструмент однозначно окажется востребованным в программах Photoshop или Adobe Express, если в Adobe решат сделать его общедоступным.

Компания Adobe на своём мероприятии Adobe Max продемонстрировала работу технологии Res-Up, которая позволяет значительно улучшить качество анимированных GIF-изображений и видео с низким разрешением. Решение пока не является общедоступным, и опробовать его всем желающим не получится, но его потенциал впечатляет.

Источник изображений: Adobe

Технология Adobe Res-Up предлагает увеличение изображения за счёт диффузии — одного из методов генеративного искусственного интеллекта; она позволяет повышать резкость и детализацию картинки. В одном из примеров Adobe продемонстрировала работу с фрагментом фильма «Красный дом» (The Red House) 1947 года — его разрешение было увеличено с 480 × 360 до 1280 × 960 пикселей.

Полученные при помощи ИИ кадры стали намного чётче: алгоритм убрал большую часть размытости и даже добавил новые детали, такие как пряди волос и блики. Картинка смотрится немного неестественно, что, впрочем, свойственно многим изображениям и видеороликам, полученным с ИИ, но это заметный шаг вперёд по сравнению технологией Video Super Resolution от Microsoft.

Достоин внимания ещё один пример с небольшим фрагментом видео, на котором изображён слонёнок: алгоритм сделал видео намного более чётким и снова добавил новые детали, в том числе морщины на коже. Только на этот раз картинка смотрится более естественной — подрисованные морщины органично двигаются вместе с животным. Adobe пока не готова сделать технологию Res-Up общедоступной, но не исключено, что она в перспективе будет интегрирована в программы Adobe Premiere Pro или Express.

Компания AMD в рамках своего мероприятия Gaming Festival 2023 на выставке Gamescom сообщила, что поддержку технологии масштабирования изображения FidelityFX Super Resolution (FSR) версии 3 первыми получат две игры — Forspoken и Immortals of Aveum. В перспективе список поддерживаемых игр будет расширяться. Важной особенностью технологии станет технология генерации дополнительных кадров, что повысит FPS в играх.

Источник изображений: AMD

В составе новой версии FSR используется технология генерации дополнительных кадров в играх Fluid Motion Frames (FMF), которую можно сравнить с технологией генератора кадров DLSS3 Frame Generation от компании NVIDIA. Последняя значительно повышает FPS в играх, генерируя дополнительные кадры на основе данных о предыдущих, но вместе с этим увеличивает время задержки.

Сокращение времени задержки также будет ключевым направлением для FSR 3, поскольку компания понимает, что геймерам нужны не только высокая частота кадров в играх, но и максимально быстрый отклик на действия игрока. В AMD отметили, что интеграция FSR 3 в игры, где уже присутствует поддержка FSR 2, не будет представлять никаких сложностей.

Первыми играми, в которых будут использованы возможности FSR 3, являются Forspoken и Immortals of Aveum. Первая вышла в январе и судя по обзорам и отзывам игроков не оправдала ожиданий. Вторая в свою очередь была выпущена несколько дней назад. Это первая игра, использующая игровой движок Unreal Engine 5.1.

На сегодняшней презентации AMD показала возможности FSR 3 в игре Forspoken, запущенной в разрешении 4K, при использовании максимальных настроек качества изображения с трассировкой лучей. Для демонстрации был выбран режим FSR 3 «Производительность». Благодаря этому частота кадров игры увеличилась более чем в три раза.

Минимальные требования для FSR 3 подразумевают наличие видеокарты уровня Radeon RX 5000 и новее или же видеокарт NVIDIA GeForce RTX 2000 и новее. Поддержка FSR 3 будет распространяться по лицензии MIT. Технология будет также совместима с консолями. AMD ожидает, что патчи с поддержкой FSR 3 для Forspoken и Immortals of Aveum выйдут во второй половине сентября.