Компания Apple не будет торопиться с расширением географии своего ИИ-сервиса. После сегодняшнего запуска в США Apple Intelligence сначала дебютируют в декабре в других англоязычных странах, а в странах Евросоюза он появится только будущей весной. Сервис будет поддерживать локальные языки стран и предложит почти полный набор функций, улучшенную Siri и интеграцию с ChatGPT.

Источник изображения: BoliviaInteligente/Unsplash

Apple официально объявила, что её сервис Apple Intelligence станет доступен пользователям в Европейском союзе с апреля 2025 года, сообщает издание TechCrunch. Ранее предполагалось, что технические правила ЕС, а именно закон «О цифровых рынках» Европейского союза (DMA), ограничит запуск технологии в регионе. «Этой весной функции Apple Intelligence начнут развёртываться для пользователей iPhone и iPad в ЕС. В их числе будут Writing Tools, Genmoji, обновлённая Siri с улучшенным пониманием языка, интеграция с ChatGPT и многое другое», — заявляется в пресс-релизе компании.

На данный момент, с выходом iOS 18.1, Apple начала постепенно внедрять функции искусственного интеллекта для последних моделей iPhone, iPad и Mac. Когда Apple Intelligence впервые был представлен на конференции разработчиков WWDC в июне, компания предупреждала, что функции будут внедряться медленно и на первом этапе будут доступны только на американском английском языке. Это всё ещё остаётся актуальным, и для использования сервиса пользовательские устройства должны быть настроены именно на этот язык. Если же Apple ID привязан к европейскому адресу, доступ к сервису на iPhone сейчас невозможен.

При этом владельцы Mac в Европе уже могут опробовать некоторые функции Apple Intelligence. Если у пользователя есть Mac с чипом M1 или новее, достаточно изменить язык системы на американский вариант английского языка, чтобы активировать сервис. Предположительно, эта возможность связана с тем, что Apple признана среди прочих крупных платформ «привратником» (gatekeeper) — основным посредником между бизнес-пользователями и потребителями в рамках DMA, но только в отношении устройств iOS, iPadOS, App Store и Safari. macOS под действие этих правил не попадает.

Apple также подтвердила, что в ближайшее время планирует расширить языковую поддержку. Уже в декабре 2024 года будет добавлена локализованная английская версия для Австралии, Канады, Ирландии, Новой Зеландии, Южной Африкт и Великобритании, а в течение 2025 года сервис станет доступен ещё на двенадцати языках, включая французский, немецкий, итальянский, португальский и испанский.

Единственной функцией, которая, по предварительным данным, не будет доступна в ЕС, окажется «Сводки уведомлений». Более детальных комментариев по этому поводу Apple пока не дала.

Google объявила, что со следующей недели сервис «Google Фото» начнёт уведомлять пользователей о том, было ли изображение изменено или объединено с другим изображением с помощью искусственного интеллекта. Целью этого шага является обеспечение максимальной прозрачности использования инструментов генеративного ИИ и достоверности данных.

Источник изображения: Google

По словам директора по разработке Google Photos Джона Фишера (John Fisher), «изображения, отредактированные с помощью таких инструментов, как Magic Editor, Magic Eraser и Zoom Enhance, уже содержат метаданные, основанные на технических стандартах Международного совета по телекоммуникациям прессы (IPTC), указывающие на использование генеративного ИИ». Однако теперь информация будет появляться и в «Google Фото» — рядом с именем файла, местоположением и статусом резервного копирования. Новая функция «AI info» будет доступна как в веб-версии, так и в мобильном приложении.

Система маркировки будет распространяться не только на генеративный ИИ, но и на случаи, когда в одном изображении комбинируются элементы из нескольких фотографий, например, при использовании функций Best Take и Add Me на смартфонах Pixel. При этом, как пишет The Verge, эти метаданные могут быть легко обойдены теми, кто намеренно хочет скрыть следы редактирования.

Фишер подчёркивает: «Работа в этом направлении не завершена, и мы продолжим собирать отзывы и оценивать дополнительные решения для повышения прозрачности редактирования с помощью ИИ». Ранее метаданные, связанные с инструментами ИИ Google, были практически невидимы для пользователей. Например, инструмент Magic Editor позволяет добавлять сгенерированные ИИ объекты на изображение, которых не было в реальной сцене, что может вводить в заблуждение других пользователей.

В то время как Google и Samsung предоставляют возможности ИИ-редактирования, Apple решила не использовать фотореалистичный контент в своих инструментах генерации изображений (они будут представлены в iOS 18.2). Крейг Федериги (Craig Federighi) из Apple выразил обеспокоенность тем, что ИИ может повлиять на достоверность фотографий. В целом, ретуширование фотографий — не новая практика, но современные инструменты генеративного ИИ делают создание убедительных фальсификаций слишком уж лёгким и доступным.

Краковская интернет-радиостанция Off Radio представила новшество, которого опасались многие журналисты. Канал этой общественной радиостанции теперь практически полностью создаётся искусственным интеллектом. Живых ведущих заменили три персонажа, созданные ИИ. Сообщается, что в результате такой замены потеряли работу более десятка человек.

Источник изображения: unsplash.com

Канал Off Radio Kraków, который транслировался в интернете, с 22 октября ведут персонажи, созданные искусственным интеллектом: 20-летняя Эми (сокращение имени Эмилия), 22-летний Куба (Якуб) и 23-летний Алекс, у каждого из которых своя история и свой характер. Эми учится на факультете журналистики, Куба изучает звукотехнику, а Алекс — дипломированный психолог. Это не новые журналисты, а персонажи, созданные искусственным интеллектом. Они будут вести программы, которые ранее создавались командой примерно из дюжины сотрудников.

«Новая версия канала OFF Radio Kraków — это исследовательский и медиа-эксперимент, пытающийся диагностировать и ответить на вопрос, какое влияние развитие искусственного интеллекта может оказать на культуру, СМИ, журналистику и общество», — говорится на сайте радиостанции.

Нововведение вызвало бурную реакцию в медиа-среде. В опубликованном открытом письме сообщается, что «благодаря новой формуле радиостанции в начале сентября около десятка человек — ценных и опытных журналистов, творцов и музыкантов краковской культуры — потеряли работу. Некоторые из них работали над созданием, развитием и сотворчеством редакции OFF Radio Kraków». К 23 октября письмо подписали уже более 15 тыс. человек, которые не хотят быть «объектом эксперимента».

Источник изображения: Pixabay

Нынешний главный редактор Off Radio Марцин Пулит (Marcin Pulit) утверждает, что «никого не уволили с Радио Краков из-за внедрения инструментов искусственного интеллекта». По его словам, «это были приглашённые сотрудники, которые делали для нас программы раз в неделю. Контракты истекли не потому, что был внедрён искусственный интеллект, а потому, что эта формула не работает, потому что она по существу пересекается с двумя другими программами и не имеет масштаба, а аудитория радиостанции была близка к нулю».

Пулит подчеркнул, что ИИ-ведущие — просто инструменты, которые используются реальными журналистами. Он сообщил, часть авторских музыкальных программ была передана на «Радио Краков Культура», а одна — на основной канал радиостанции. «У нас по-прежнему работают два штатных сотрудника — на основном канале и на “Радио Краков Культура”», — пояснил Пулит.

На проблему обратил внимание вице-премьер и министр по информатизации Кшиштоф Гавковски (Krzysztof Gawkowski), указавший на назревшую необходимость регулирования сферы ИИ: «Хоть я и фанат развития ИИ, но считаю, что мы все чаще выходим за конкретные границы. Использование ИИ должно быть для людей, а не против них!».

Минцифры России планирует до конца года запустить на портале «Госуслуги» бета-версию консультанта, основой которого станет отечественная нейросеть. Об этом рассказал министр цифрового развития Максут Шадаев во время выступления на пленарном заседании «Инфотех-2024».

Источник изображения: geralt/Pixabay

По словам министра, в ведомстве видят огромный потенциал для использования искусственного интеллекта в процессе предоставления госуслуг. Прежде всего речь идёт о реализации возможности получения быстрых и точных ответов на любые вопросы. «Мы с начала года тестируем российские модели и проводим закрытые тестирования, и я рад сказать, что в конце года откроем бета-версию», — добавил Максут Шадаев.

В ходе выступления министр рассказал, что во время тестирования были отмечены высокие результаты в плане того, как быстро ИИ-алгоритм справляется с ответом на пользовательские вопросы. Параллельно с этим ведётся внедрение ИИ-технологий для борьбы с мошенничеством. Нейросеть используется для выявления аномальных шаблонов поведения пользователей и снижения количества неприятных инцидентов.

В феврале текущего года Максут Шадаев говорил о возможности использования ИИ-ботов для консультирования пользователей портала «Госуслуги». Тогда же министр отмечал необходимость развития проактивных услуг, которые могут оказываться без обращения, а все консультации должен выполнять ИИ-алгоритм, заполняя необходимые заявления за человека.

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.

Генеральный директор Qualcomm Inc. Криштиано Амон (Cristiano Amon), представивший на этой неделе новую версию микропроцессора Snapdragon, заявил, что новые смартфоны, поддерживающие функции на базе искусственного интеллекта на самом устройстве, станут обычным явлением в течение нескольких лет. Об этом он рассказал во время интервью для Bloomberg Television.

Источник изображения: Qualcomm

«В течение следующих пяти лет у нас, у всех у нас, вероятно, будет смартфон с искусственным интеллектом», — заявил господин Амон.

Компания Qualcomm доминирует на рынке процессоров для мобильных устройств, работающих под управлением операционной системы Android. На этой неделе производитель представил мощный микропроцессор Snapdragon 8 Elite, который поднимет производительность смартфонов до уровня ноутбуков и позволит работать ИИ-приложениям прямо на устройстве. Новые чипы компании могут похвастаться увеличением производительности почти на 45 % и меньшим энергопотреблением в сравнении с процессором предыдущего поколения Snapdragon 8 Gen 3.

В ходе интервью Амон отказался комментировать вопрос, связанный со слухами о полном или частичном поглощении Intel. «Мы прошли путь от смартфонов до автомобилей, от компьютеров до промышленного оборудования. Мы сделали всё это органично. Мы считаем, что у нас очень конкурентоспособная дорожная карта», — заявил глава Qualcomm.

Huawei продолжает использовать передовые чипы TSMC в своих ИИ-продуктах, несмотря на запрет США. TSMC отрицает поставки после 2020 года китайским производителям. Однако в современном ИИ-ускорителе Huawei Ascend 910B обнаружился чип, произведённый TSMC, что ставит под угрозу репутацию обеих компаний.

Источник изображения: convertcrypto.ru

Канадская исследовательская фирма TechInsights разобрала один из новейших ускорителей искусственного интеллекта Huawei и обнаружила внутри чип Ascend 910B, произведённый компанией TSMC. Об этом сообщил Bloomberg со ссылкой на источник, знакомый с результатами исследования. Источник пожелал остаться анонимными, так как отчёт пока не был официально опубликован.

Весьма вероятно, что Huawei получила чипы через подставную компанию. По данным Financial Times, некоторое время назад сторонняя компания заказала у TSMC производство чипов, подозрительно похожих на решения Huawei, о чём TSMC уведомила власти США. Формальных причин для отказа не нашлось, и, по всей видимости, чипы были изготовлены. Теперь же, по сообщению The Information, Минторг США ведёт расследование в отношении TSMC.

Huawei с 2020 года находится в санкционном списке и не может вести бизнес с TSMC и другими контрактными производителями полупроводников без лицензии от правительства США. В прошлом году Huawei полагалась на своего местного партнёра, компанию SMIC, которая производила 7-нм чипы, используемые во флагманских смартфонах Huawei. Однако представители США неоднократно выражали сомнения в способности SMIC производить подобные чипы в большом масштабе и, тем более, показывать производительность необходимого уровня. Обнаруженный чип TSMC в ИИ-ускорителе Huawei подтверждает это мнение. Остаётся неясным, как и когда Huawei получила эти чипы, учитывая, что тайваньская компания TSMC заявила о прекращении всех поставок для китайского техногиганта с 15 сентября 2020 года.

«TSMC соблюдает законы и привержена выполнению всех применимых правил и норм, включая экспортный контроль. В соответствии с нормативными требованиями, TSMC не поставляла продукцию Huawei с середины сентября 2020 года, — говорится в заявлении компании. — Мы связались с Министерством торговли США по этому вопросу и на данный момент не осведомлены о каких-либо расследованиях в отношении нас».

В свою очередь Huawei заявила, что с 2020 года не получала чипы от TSMC после изменений в американских правилах экспорта, известных как «Правило прямого иностранного продукта» (FDPR). «Huawei никогда не выпускала чип 910B», — добавили в компании.

Представитель Министерства торговли США заявил, что Бюро промышленности и безопасности (BIS), ответственное за контроль торговли полупроводниками, «осведомлено о сообщениях о возможных нарушениях экспортного контроля США». Однако он отказался уточнять, ведётся ли расследование.

Напомним, до ускорителя Huawei Ascend 910B в производство был запущен в 2019 году его предшественник Huawei 910, то есть до расширения санкций США против китайской компании. Тогда Huawei запаслась чипами TSMC. Ускоритель 910B, по данным аналитического центра Center for Security and Emerging Technology (США), впервые был замечен в серверной продукции в 2022 году. В китайских новостных изданиях он стал упоминаться в 2023 году, хотя официального запуска от Huawei не было. В августе 2023 года местная компания Iflytek представила сервер с этим ИИ-ускорителем, а Baidu заказала более 1000 единиц 910B ещё в прошлом году, согласно данным исследовательской компании TrendForce.

Разработчики из Canva продолжают развивать свою дизайнерскую веб-платформу, добавляя новые функции на основе искусственного интеллекта и улучшая уже существующие. На этот раз они объявили об улучшении инструментов для создания текстовых и видеоэффектов, а также представили более мощный генератор изображений из текста под названием Dream Lab. ИИ-генератор изображений стал результатом покупки Canvas стартапа Leonardo.ai в начале этого года.

Источник изображения: Canva

В основе Dream Lab находится ИИ-модель Leonardo Phoenix, которая позволяет пользователям с помощью небольших текстовых подсказок создавать изображения в разных стилях, включая иллюстрации и 3D-рендеры. У Canvas уже был ИИ-генератор на базе нейросети Stable Diffusion и несколько приложений сторонних разработчиков, но с появлением Dream Lan пользователи платформы Canvas получат новые возможности. Например, представленный генератор лучше подходит для создания изображений фотографического качества и картинок с большим количеством объектов.

Ещё разработчики обновили набор ИИ-инструментов Magic, включая команды автозаполнения одним щелчком мыши для функции генерации текста Magic Write. Доски теперь поддерживают ИИ-функцию обобщения текста, а также стикеры с реакциями в режиме онлайн для совместных проектов. Добавлены инструменты для редактирования видео, которые автоматически генерируют субтитры и добавляют анимированные эффекты. Для лучшей визуализации пользователи смогут добавлять в свои презентации интерактивные диаграммы и графики. Библиотека ресурсов Canva пополнилась новой бесплатной музыкой и кинематографическими роликами, которые предоставляются по лицензии платформы Artlist.

Прошлой весной Anthropic заявила о намерении создать «алгоритм нового поколения для самообучения ИИ», который сможет самостоятельно выполнять большинство офисных задач, что позволило бы автоматизировать значительную часть экономики. Сегодня компания выпустила версию 3.5 своей модели Claude Sonnet, которая может через API Computer Use взаимодействовать с любым десктопным приложением, имитировать нажатия клавиш, клики и жесты мыши, полностью эмулируя человека.

Источник изображения: Pixabay

«Мы обучили Claude видеть, что происходит на экране, а затем использовать доступные программные инструменты для выполнения задач, — сообщает Anthropic. — Когда разработчик поручает Claude использовать часть компьютерного программного обеспечения и даёт ему необходимый доступ, Claude смотрит на скриншоты того, что видит пользователь, затем подсчитывает, на сколько пикселей по вертикали или горизонтали ему нужно переместить курсор, чтобы щёлкнуть в нужном месте».

Подобный инструмент, так называемый «агент ИИ», который может автоматизировать задачи на ПК, не является новой идеей. Термин агент ИИ пока остаётся нечётко определённым, но обычно под ним подразумевается ИИ, способный автоматизировать работу с программным обеспечением на ПК. Множество компаний сегодня предлагают подобные инструменты, начиная с Microsoft, Salesforce и OpenAI, и заканчивая новыми игроками, такими как Relay, Induced AI и Automat.

Стартап потребительских гаджетов Rabbit представил агента, который умеет самостоятельно покупать билеты онлайн. Adept, недавно приобретённый Amazon, обучает модели просмотру сайтов и навигации по программному обеспечению. Twin Labs использует готовые модели, включая GPT-4o от OpenAI, для автоматизации процессов рабочего стола.

Некоторые аналитики уверены, что агенты ИИ смогут обеспечить компаниям более простой способ монетизации миллиардов долларов, которые они вливают в ИИ. Согласно недавнему опросу Capgemini, 10 % организаций уже используют агентов ИИ, а 82 % планируют интегрировать их в течение следующих трёх лет.

Источник изображения: unsplash.com

Anthropic называет свою концепцию агента ИИ «слоем действия-исполнения», который позволяет ему выполнять команды на уровне рабочего стола. Благодаря способности просматривать веб-страницы, Claude 3.5 Sonnet может использовать в работе любой сайт и любое приложение.

«Люди контролируют процесс при помощи подсказок, направляющих действия Claude, например, “использовать данные с моего компьютера и из сети, чтобы заполнить эту форму”, — поясняет представитель Anthropic. — Люди разрешают доступ и ограничивают его по мере необходимости. Claude разбивает подсказки пользователя на компьютерные команды (например, перемещение курсора, нажатие, ввод текста) для выполнения этой конкретной задачи».

Источник изображений: Anthropic

В чём отличие Claude 3.5 Sonnet от других агентов ИИ? Anthropic утверждает, что это просто более сильная, более надёжная модель, которая справляется с задачами кодирования лучше, чем даже флагманский o1 от OpenAI, согласно бенчмарку SWE-bench Verified. Claude самостоятельно корректирует и повторяет задачи, когда сталкивается с препятствиями, и может работать над целями, требующими десятков или сотен шагов.

При этом Anthropic признает, что обновлённая модель испытывает трудности с базовыми действиями, такими как прокрутка и масштабирование, и может пропускать кратковременные события и уведомления из-за способа, которым она делает снимки экрана и объединяет их. Во время тестового бронирования авиабилетов Claude 3.5 Sonnet сумела успешно выполнить менее половины задач. В задаче возврата билетов новая модель не справилась примерно в трети случаев.

Результаты сравнительного тестирования моделей ИИ компанией Anthropic

Что касается безопасности, недавнее исследование показало, что даже модели не имеющие возможности использовать настольные приложения, такие как GPT-4o от OpenAI, могут быть задействованы во вредоносном «многошаговом агентском поведении», например, заказать поддельный паспорт в даркнете. Подобные результаты были достигнуты исследователями с использованием методов джейлбрейка, что привело к высокому проценту успешно выполненных вредоносных задач даже для защищённых моделей.

Можно предположить, что модель с доступом к управлению ПК может нанести значительно больший ущерб — например, используя уязвимости приложений для компрометации личной информации (или сохранения чатов в виде открытого текста). Помимо имеющихся в её распоряжении программных рычагов, сетевые и прикладные соединения модели могут открыть широкие возможности для злоумышленников.

Anthropic не отрицает, что использование Claude 3.5 Sonnet подвергает пользователя дополнительным рискам. Но по мнению компании «гораздо лучше предоставить компьютерам доступ к сегодняшним более ограниченным, относительно безопасным моделям — так мы можем начать наблюдать и извлекать уроки из любых потенциальных проблем, которые возникают на этом более низком уровне, постепенно и одновременно наращивая использование компьютеров и меры по снижению рисков для безопасности».

Anthropic заявляет, что предприняла некоторые шаги для предотвращения ненадлежащего использования, например, не обучала новую модель на снимках экрана и подсказках пользователей и не давала модели выходить в интернет во время обучения. Компания разработала классификаторы для предотвращения высокорисковых действий, таких как публикация в социальных сетях, создание учётных записей и взаимодействие с правительственными ресурсами.

Anthropic сообщила, что у неё есть возможность «при необходимости» ограничить доступ к дополнительным функциям, например, для защиты от спама, мошенничества и дезинформации. В качестве меры предосторожности компания хранит все снимки экрана, сделанные Computer Use, не менее 30 дней, что может создать дополнительную угрозу безопасности и конфиденциальности. Anthropic не сообщила при каких обстоятельствах она может передать снимки экрана третьей стороне (например, правоохранительным органам).

«Не существует надёжных методов, и мы будем постоянно оценивать и совершенствовать наши меры безопасности, чтобы сбалансировать возможности Claude с ответственным использованием, — утверждает Anthropic. — Тем, кто использует компьютерную версию Claude, следует принять соответствующие меры предосторожности, чтобы минимизировать подобные риски, включая изоляцию Claude от особо конфиденциальных данных на своём компьютере».

Источник изображения: Pixabay

Одновременно с выпуском модели Claude 3.5 Sonnet, Anthropic анонсировала скорый выход обновлённой версии Claude 3.5 Haiku. «Благодаря высокой скорости, улучшенному следованию инструкциям и более точному использованию инструментов Claude 3.5 Haiku хорошо подходит для продуктов, ориентированных на пользователя, специализированных задач субагентов и создания персонализированного опыта из огромных объёмов данных, таких как история покупок, цены или данные об инвентаре», — говорится в блоге Anthropic. Haiku изначально будет доступна как текстовая модель, а затем как часть мультимодального пакета, который может анализировать как текст, так и изображения.

Что касается выпуска обновлённой модели Claude 3.5 Opus, представитель Anthropic заявил: «Все модели в семействе Claude 3 имеют своё индивидуальное применение для клиентов. Claude 3.5 Opus есть в нашей дорожной карте, и мы обязательно поделимся с вами подробностями, как только сможем».

Разработчики уже могут протестировать Computer Use через API Anthropic, Amazon Bedrock и платформу Vertex AI от Google Cloud.

Meta✴ объявила о тестировании технологии распознавания лиц для борьбы с мошенническими рекламными объявлениями, в которых присутствуют изображения знаменитостей. Facebook✴ и Instagram✴ будут использовать новую функцию также и для выявления поддельных аккаунтов известных личностей, созданных для обмана пользователей.

Источник изображения: Gerd Altmann/Pixabay

Как поясняет издание TechCrunch, целью этих тестов является усиление уже существующих мер по борьбе с мошенничеством, таких как автоматические сканирования на основе машинного обучения, которые проверяют рекламные объявления на Facebook✴ и Instagram✴. Если объявление будет помечено как подозрительное, то немедленно начнётся процесс идентификации с фотографиями профиля аккаунта.

«Мошенники часто используют изображения известных личностей, таких как блогеров или других знаменитостей, чтобы заманить людей на мошеннические сайты, где у них запрашивается личная информация или деньги. Эта схема, известная как "celeb-bait", нарушает наши правила и вредит пользователям наших продуктов», — пишет в блоге компании вице-президент Meta✴ по политике контента Моника Бикерт (Monika Bickert). Она подчёркивает, что если будет подтверждено совпадение с фотографией профиля знаменитости, но объявление окажется мошенническим, оно будет заблокировано.

Meta✴ утверждает, что технология распознавания лиц используется исключительно для борьбы с мошенническими объявлениями и после проверки все изображения, независимо от того, найдены ли совпадения или нет, удаляются и не используются в каких-либо других целях. Первые тесты с участием небольшой группы публичных персон показали «обнадёживающие» результаты, касающиеся скорости и эффективности выявления и блокировки мошеннической рекламы. Компания также рассматривает возможность применения технологии для обнаружения рекламных дипфейков, созданных с помощью генеративного ИИ, а также тестирует распознавание лиц для обнаружения поддельных аккаунтов знаменитостей.

В ближайшие недели компания начнёт отправлять уведомления внутри приложений более широкому кругу публичных фигур, чьи изображения использовались в мошеннических объявлениях, информируя их о том, что они автоматически включены в систему защиты. Однако от этой функции, по словам Бикерт, можно в любой момент отказаться через Центр аккаунтов.

Помимо прочего, Meta✴ начала тестирование видео-селфи с применением распознавания лиц для ускорения процесса восстановления доступа к аккаунтам, которые были по какой-либо причине заблокированы. Этот метод ускорит и упростит процесс восстановления доступа по сравнению с загрузкой изображения удостоверения личности. Отмечается, что «видео-селфи верификация расширяет возможности для восстановления доступа к аккаунту, занимает всего минуту и является самым простым способом подтвердить свою личность». Данный метод аналогичен идентификации с помощью Face ID на iPhone.

Компания ByteDance, владелец TikTok, подтвердила увольнение стажёра за злонамеренное внедрение вредоносного кода в модели искусственного интеллекта. Действия молодого человека, предположительно, обошлись компании убытком в десятки миллионов долларов.

Источник изображения: Claudio Schwarz/Unsplash

ByteDance хоть и подтвердила увольнение стажёра, однако, как сообщает издание Ars Technica, опровергла слухи о многомиллионных потерях и потерянной вычислительной мощности 8000 графических процессоров, пытаясь прекратить вредящие имиджу компании разговоры на эту тему в китайских социальных сетях. ByteDance назвала эти утверждения «сильно преувеличенными» и подчеркнула, что ущерб был значительно меньше.

Согласно официальному заявлению, стажёр занимал позицию в коммерческой технологической команде и «злонамеренно вмешивался в задачи по обучению моделей» в рамках исследовательского проекта. Компания также обвинила стажёра в добавлении ложной информации в свой профиль в социальных сетях, где он указывал, что его работа связана с лабораторией искусственного интеллекта ByteDance, а не с командой коммерческих технологий. ByteDance уведомила университет стажёра и отраслевые ассоциации о случившемся, предположительно, чтобы предотвратить его попытки ввести в заблуждение других.

В компании подчёркивают, что ни одно из коммерческих направлений не пострадало и алгоритмы больших языковых моделей (LLM) также не были затронуты. Несмотря на это заявление, некоторые пользователи социальных сетей продолжают сомневаться в официальной версии. Одни утверждают, что команда коммерциализации, в которой работал стажёр, ранее входила в состав лаборатории ИИ, и что стажёр мог использовать «вредоносный код» для «преднамеренного саботажа обучения моделей в течение как минимум нескольких месяцев». Другие комментаторы предполагают, что ByteDance преуменьшает ущерб, и что «потеря вычислительной мощности сама по себе может составлять несколько миллионов долларов, если не десятки, не говоря уже о потере времени, энергии и заработной платы всей исследовательской группы».

Midjourney запустит веб-инструмент, способный редактировать любые изображения с помощью генеративного ИИ. Новинка позволит, сохраняя форму редактируемых объектов, изменять их текстуры, цвета и другие детали в зависимости от текстовых запросов пользователя. Это открывает путь не только к большим творческим возможностям, но и к возможным злоупотреблениям.

Источник изображений: Midjourney

На прошлой неделе генеральный директор компании Дэвид Хольц (David Holtz) опубликовал на сервере Midjourney в Discord подробности о новом ИИ-редакторе изображений. Новый инструмент позволит пользователям загружать изображения из интернета и использовать последние достижения в области ИИ-технологий для их редактирования. «Он сохраняет форму сцены и объектов, но перерисовывает все текстуры, цвета и детали в соответствии с вашим запросом», — объяснил Хольц.

Источник изображения: Midjourney / Discord

Появление такого инструмента открывает перед пользователями большие возможности для творчества, однако вызывает и серьёзные вопросы о злоупотреблениях. Например, инструмент может быть использован для массового создания дипфейков или нарушений авторских прав. Несмотря на то, что в США на федеральном уровне по-прежнему отсутствует закон, криминализирующий создание дипфейков, как минимум дюжина штатов уже приняли законы против ИИ-имитаций, и многие другие штаты рассматривают возможность последовать их примеру.

Хольц осознаёт риски, связанные с вероятным злоупотреблением новым инструментом, и заявил, что на начальном этапе доступ к сервису будет ограничен небольшим числом пользователей. Компания Midjourney разрабатывает системы мониторинга, включающие как человеческий контроль, так и ИИ, чтобы минимизировать потенциальные нарушения. Однако конкретные механизмы реализации этих ограничений пока не определены, и компания собирает обратную связь от пользователей, чтобы решить, кто должен получить ранний доступ к инструменту.

Следует подчеркнуть, что Midjourney уже внедрила стандарты метаданных IPTC Digital Source Type, позволяющие маркировать изображения, созданные с использованием ИИ. Однако компания пока отстаёт от других лидеров рынка, таких как Adobe, которые применяют более продвинутые технологии отслеживания происхождения изображений, например, стандарт C2PA. Эта технология обеспечивает возможность проследить полную историю редактирования изображения, что существенно повышает прозрачность и ответственность в процессе его создания и обработки.

В августе текущего года Midjourney также запустила обновлённый веб-сайт, который позволяет любому пользователю создавать изображения с помощью ИИ, зарегистрировавшись через Google-аккаунт. Первоначально предоставляется бесплатный пробный период, по окончании которого пользователи могут оформить платную подписку, чтобы продолжить пользоваться сервисом генерации изображений на постоянной основе.

Данные берутся из публикации Нейроморфные вычислители: прямая дорога к сильному ИИ?

На ежегодной конференции Max компания Adobe в рамках программы Sneaks («Предварительный показ») представила экспериментальные инструменты на базе искусственного интеллекта, которые позволяют вращать плоское векторное изображение и создавать высококачественное изображение из карандашного наброска.

Источник изображений: Adobe

Функция Project Turntable позволяет пользователям при помощи перемещения ползунка изменять перспективу векторного изображения, что ранее требовало полной перерисовки изображения с нуля. Adobe продемонстрировала на конференции Max примеры подобного вращения двумерного изображения, во время которого нарисованный объект верно отображался в другой проекции без деформации.

Для сохранивших верность карандашу и бумаге предназначен инструмент Project Remix A Lot, который умеет при помощи ИИ генерировать из чернового наброска редактируемое цифровое изображение. Для созданного изображения доступна опция «Варианты макета», позволяющая автоматически подобрать оптимальный размер окончательного изображения в зависимости от его назначения, например, для размещения в соцсетях или для заголовка блога.

Помимо векторной графики, Adobe также продемонстрировала Project Hi-Fi — плагин Photoshop, который использует часть рабочего пространства пользователя в качестве справочного руководства по генерации изображений при помощи ИИ. Принцип работы Project Hi-Fi схож со справочной информацией Adobe по Firefly, но плагин обладает большим количеством настроек.

Adobe также продемонстрировала экспериментальный проект Super Sonic — прототип программного обеспечения на основе ИИ, которое может превращать текст в аудио, распознавать объекты и голос автора для быстрого создания звуковых эффектов и фонового аудио для видеопроектов.

Эти инструменты были показаны на конференции Adobe Max в разделе Sneaks — так компания называет проекты в разработке, демонстрирующие новые технологии, и оценивает интерес общественности к ним. Нет гарантии, что все они появятся в общедоступных продуктах Adobe, но многие широко используемые сегодня функции для фото- и видеоредактирования основаны на подобных проектах — например, инструмент Remove в Photoshop и приложение для рисования Fresco в Adobe.

Данные берутся из публикации Игра в высшей лиге: обзор российского ПО с искусственным интеллектом