Ежегодный отчёт Octoverse от GitHub показывает, как искусственный интеллект (ИИ) меняет мир разработки программного обеспечения, способствуя росту глобального сообщества разработчиков и меняя ландшафт используемых технологий. Вопреки опасениям, что ИИ заменит программистов, отчёт показал обратное — разработчики активно используют ИИ для создания новых моделей и интеграции их в приложения, одновременно участвуя в большом количестве проектов на GitHub.

Источник изображения: Lee Campbell/Unsplash

По данным за 2024 год, Python впервые обогнал JavaScript и стал самым популярным языком программирования на GitHub. Такой рост, как указывается в отчёте, связан с активным развитием науки о данных и машинным обучением (ML), что также подтверждается увеличением использования интерактивного блокнота Jupyter Notebooks. Эти изменения в глобальном плане отражают сдвиг в индустрии, где всё больше внимания уделяется применению искусственного интеллекта, включая создание более лёгких моделей, требующих меньших вычислительных ресурсов.

GitHub отмечает значительное увеличение числа разработчиков по всему миру. В 2023 году наблюдался всплеск интереса к публичным проектам, по большей части благодаря инструментам с поддержкой ИИ, таких как GitHub Copilot. Численность разработчиков тогда достигла отметки 100 миллионов. В 2024 году они уже внесли свой вклад в более чем 518 миллионов проектов, включая версии с открытым исходным кодом (Open-source), публичные и частные проекты.

В настоящий момент на GitHub зафиксирован 59-% рост числа вкладов в проекты, связанные с генеративным ИИ и 98-% рост числа проектов в целом. Особенно активно в этом направлении работают программисты из Индии, Германии, Японии и Сингапура, что лишний раз подчёркивает масштабный характер интереса к искусственному интеллекту за пределами США. При этом ожидается, что к 2028 году Индия станет страной с наибольшим количеством разработчиков на платформе.

В отчёте также указывается, что среди 20 стран с наибольшим числом разработчиков на GitHub сохраняется стабильность показателей, однако заметны и некоторые изменения. Например, Филиппины обогнали Австралию, заняв 18-е место, а Пакистан поднялся на 20-е место, обогнав Польшу.

Илон Маск (Elon Musk) стремится стать лидером в гонке по созданию нейросетей следующего поколения. Для этого он планирует вдвое расширить ИИ-кластер xAI Colossus, который в настоящее время включает в себя 100 тыс. графических ускорителей Nvidia H100.

Источник изображения: servethehome.com

Эта новость пришла от Nvidia, а позднее сам Маск подтвердил её в своём аккаунте в соцсети X, написав, что ИИ-суперкомпьютер Colossus близок к тому, чтобы вместить 200 тыс. ускорителей Nvidia H100 и H200, которые разместятся в здании площадью более 7000 м² в Мемфисе, штат Теннесси. Суперкомпьютер Colossus примечателен тем, что сотрудники xAI сумели собрать его и ввести в эксплуатацию в крайне сжатые сроки. Обычно на создание суперкомпьютеров уходят годы, но в данном случае, по словам Маска, весь процесс от начала до конца занял 122 дня.

При этом принадлежащая миллиардеру xAI потратила на создание Colossus не менее $3 млрд, поскольку сейчас он состоит из 100 тыс. ускорителей Nvidia H100, которые обычно стоят в районе $30 тыс. за штуку. Теперь же бизнесмен намерен модернизировать кластер за счёт использования более производительных ускорителей H200, каждый из которых стоит около $40 тыс. В конечном счёте Маску придётся потратить ещё несколько миллиардов долларов, не говоря уже о затратах на электроэнергию для поддержания работоспособности кластера. Конечная цель бизнесмена состоит в том, чтобы к лету следующего года нарастить количество используемых ускорителей до 300 тыс. единиц, причём для дальнейшей модернизации планируется задействовать новейшие Nvidia Blackwell B200.

Маск делает большую ставку на ИИ-ускорители Nvidia с целью дальнейшего развития чат-бота Grok от xAI и других технологий на базе нейросетей. Ранее на этой неделе в интернете появилось видео, демонстрирующее ИИ-кластер xAI изнутри, в котором можно увидеть множество серверных стоек с ускорителями Nvidia.

Компания Google расширяет присутствие функции «Помоги мне написать» на веб-версию своего почтового сервиса Gmail. Этот инструмент позволит пользователям генерировать письма с помощью ИИ-помощника, основой которого стала нейросеть Gemini. Как и на мобильных устройствах, предложение использовать упомянутую функцию будет появляться при открытии пустого черновика Gmail.

Источник изображения: Solen Feyissa / unsplash.com

На данном этапе функция «Помоги мне написать» стала доступна пользователям с подпиской Google One AI Premium, а также тем, кто имеет доступ к Gemini в Workspace. Помимо генерации черновика сообщения данный инструмент может давать советы, как лучше написать то или иное сообщение, как сократить текст послания и др.

Google также добавила ярлык для функции «полировка», которая является частью набора инструментов «Помоги мне написать». Он будет отображаться в черновиках сообщений, содержащих более 12 слов. В веб-версии Gmail для использования данной функции можно нажать соответствующий ярлык или сочетание клавиш Ctrl+H. В мобильной версии сервиса эта опция заменит существующий ярлык «Улучшить мой черновик». Вместо того, чтобы проводить пальцем по экрану, чтобы посмотреть варианты доработки, приложение будет автоматически вносить корректировки. После использования новой функции пользователь сможет доработать сообщение с помощью других ИИ-инструментов.

Meta✴ уже восемь месяцев активно работает над собственной поисковой системой на основе ИИ, чтобы снизить свою зависимость от Google и Microsoft Bing. Новый поиск позволит интегрировать ИИ-сводки событий прямо в приложения компании, такие как Instagram✴ и Facebook✴, и в будущем заменит внешние поисковики, используемые в настоящее время.

Источник изображения: Placidplace / Pixabay

В данный момент для обработки запросов о текущих событиях в Instagram✴ и Facebook✴ ИИ-боты корпорации Meta✴ полагаются на данные Google и Bing. Однако Meta✴ намерена прекратить эту практику, внедрив внутреннюю поисковую систему, которая будет работать исключительно на основе собственной базы данных. Планируется интеграция с уже существующими ИИ-инструментами Meta✴, что позволит её ИИ-ботам более автономно и эффективно обрабатывать запросы пользователей.

Одним из важнейших этапов в создании новой поисковой системы Meta✴ стало внедрение собственного поискового робота, который уже несколько месяцев активно индексирует информацию из открытых источников в Сети. Это даёт возможность формировать собственную обширную базу данных, которая станет основой для ИИ-бота и обеспечит Meta✴ независимость от внешних платформ. Примечательно, что сбор данных начался ещё до заключения соглашений с новостными агентствами.

Помимо разработки поисковых алгоритмов, Meta✴ также собирает данные о геолокации, что в перспективе позволит компании конкурировать с Google Maps. В сентябре также стало известно о том, что Apple развивает собственные поисковые инструменты для улучшения работы в App Store, что демонстрирует общее стремление техногигантов создавать независимые поисковые сервисы на основе ИИ. В результате борьба за контроль над пользовательскими данными усиливается, и Meta✴ стремится стать важным игроком в этом процессе.

Недавно Meta✴ заключила многолетнее соглашение с международным новостным агентством Reuters, что обеспечит её ИИ-бота доступом к проверенной информации. Это партнёрство, вероятно, повысит доверие пользователей к корпорации, и станет важным этапом на пути к созданию надёжной и актуальной базы данных для ИИ-поиска.

Meta✴ — не единственная компания, стремящаяся к созданию собственного ИИ-поиска. OpenAI также подтвердила разработку системы под названием SearchGPT. В то же время Perplexity, ещё один ИИ-поисковик, сталкивается с исками от News Corp и угрозами со стороны других издателей, включая The New York Times. Эти юридические трудности подчёркивают важность правового регулирования для компаний, разрабатывающих независимые ИИ-поисковики, особенно если они используют контент крупных медиакомпаний.

Компания Apple не будет торопиться с расширением географии своего ИИ-сервиса. После сегодняшнего запуска в США Apple Intelligence сначала дебютируют в декабре в других англоязычных странах, а в странах Евросоюза он появится только будущей весной. Сервис будет поддерживать локальные языки стран и предложит почти полный набор функций, улучшенную Siri и интеграцию с ChatGPT.

Источник изображения: BoliviaInteligente/Unsplash

Apple официально объявила, что её сервис Apple Intelligence станет доступен пользователям в Европейском союзе с апреля 2025 года, сообщает издание TechCrunch. Ранее предполагалось, что технические правила ЕС, а именно закон «О цифровых рынках» Европейского союза (DMA), ограничит запуск технологии в регионе. «Этой весной функции Apple Intelligence начнут развёртываться для пользователей iPhone и iPad в ЕС. В их числе будут Writing Tools, Genmoji, обновлённая Siri с улучшенным пониманием языка, интеграция с ChatGPT и многое другое», — заявляется в пресс-релизе компании.

На данный момент, с выходом iOS 18.1, Apple начала постепенно внедрять функции искусственного интеллекта для последних моделей iPhone, iPad и Mac. Когда Apple Intelligence впервые был представлен на конференции разработчиков WWDC в июне, компания предупреждала, что функции будут внедряться медленно и на первом этапе будут доступны только на американском английском языке. Это всё ещё остаётся актуальным, и для использования сервиса пользовательские устройства должны быть настроены именно на этот язык. Если же Apple ID привязан к европейскому адресу, доступ к сервису на iPhone сейчас невозможен.

При этом владельцы Mac в Европе уже могут опробовать некоторые функции Apple Intelligence. Если у пользователя есть Mac с чипом M1 или новее, достаточно изменить язык системы на американский вариант английского языка, чтобы активировать сервис. Предположительно, эта возможность связана с тем, что Apple признана среди прочих крупных платформ «привратником» (gatekeeper) — основным посредником между бизнес-пользователями и потребителями в рамках DMA, но только в отношении устройств iOS, iPadOS, App Store и Safari. macOS под действие этих правил не попадает.

Apple также подтвердила, что в ближайшее время планирует расширить языковую поддержку. Уже в декабре 2024 года будет добавлена локализованная английская версия для Австралии, Канады, Ирландии, Новой Зеландии, Южной Африкт и Великобритании, а в течение 2025 года сервис станет доступен ещё на двенадцати языках, включая французский, немецкий, итальянский, португальский и испанский.

Единственной функцией, которая, по предварительным данным, не будет доступна в ЕС, окажется «Сводки уведомлений». Более детальных комментариев по этому поводу Apple пока не дала.

Google объявила, что со следующей недели сервис «Google Фото» начнёт уведомлять пользователей о том, было ли изображение изменено или объединено с другим изображением с помощью искусственного интеллекта. Целью этого шага является обеспечение максимальной прозрачности использования инструментов генеративного ИИ и достоверности данных.

Источник изображения: Google

По словам директора по разработке Google Photos Джона Фишера (John Fisher), «изображения, отредактированные с помощью таких инструментов, как Magic Editor, Magic Eraser и Zoom Enhance, уже содержат метаданные, основанные на технических стандартах Международного совета по телекоммуникациям прессы (IPTC), указывающие на использование генеративного ИИ». Однако теперь информация будет появляться и в «Google Фото» — рядом с именем файла, местоположением и статусом резервного копирования. Новая функция «AI info» будет доступна как в веб-версии, так и в мобильном приложении.

Система маркировки будет распространяться не только на генеративный ИИ, но и на случаи, когда в одном изображении комбинируются элементы из нескольких фотографий, например, при использовании функций Best Take и Add Me на смартфонах Pixel. При этом, как пишет The Verge, эти метаданные могут быть легко обойдены теми, кто намеренно хочет скрыть следы редактирования.

Фишер подчёркивает: «Работа в этом направлении не завершена, и мы продолжим собирать отзывы и оценивать дополнительные решения для повышения прозрачности редактирования с помощью ИИ». Ранее метаданные, связанные с инструментами ИИ Google, были практически невидимы для пользователей. Например, инструмент Magic Editor позволяет добавлять сгенерированные ИИ объекты на изображение, которых не было в реальной сцене, что может вводить в заблуждение других пользователей.

В то время как Google и Samsung предоставляют возможности ИИ-редактирования, Apple решила не использовать фотореалистичный контент в своих инструментах генерации изображений (они будут представлены в iOS 18.2). Крейг Федериги (Craig Federighi) из Apple выразил обеспокоенность тем, что ИИ может повлиять на достоверность фотографий. В целом, ретуширование фотографий — не новая практика, но современные инструменты генеративного ИИ делают создание убедительных фальсификаций слишком уж лёгким и доступным.

Краковская интернет-радиостанция Off Radio представила новшество, которого опасались многие журналисты. Канал этой общественной радиостанции теперь практически полностью создаётся искусственным интеллектом. Живых ведущих заменили три персонажа, созданные ИИ. Сообщается, что в результате такой замены потеряли работу более десятка человек.

Источник изображения: unsplash.com

Канал Off Radio Kraków, который транслировался в интернете, с 22 октября ведут персонажи, созданные искусственным интеллектом: 20-летняя Эми (сокращение имени Эмилия), 22-летний Куба (Якуб) и 23-летний Алекс, у каждого из которых своя история и свой характер. Эми учится на факультете журналистики, Куба изучает звукотехнику, а Алекс — дипломированный психолог. Это не новые журналисты, а персонажи, созданные искусственным интеллектом. Они будут вести программы, которые ранее создавались командой примерно из дюжины сотрудников.

«Новая версия канала OFF Radio Kraków — это исследовательский и медиа-эксперимент, пытающийся диагностировать и ответить на вопрос, какое влияние развитие искусственного интеллекта может оказать на культуру, СМИ, журналистику и общество», — говорится на сайте радиостанции.

Нововведение вызвало бурную реакцию в медиа-среде. В опубликованном открытом письме сообщается, что «благодаря новой формуле радиостанции в начале сентября около десятка человек — ценных и опытных журналистов, творцов и музыкантов краковской культуры — потеряли работу. Некоторые из них работали над созданием, развитием и сотворчеством редакции OFF Radio Kraków». К 23 октября письмо подписали уже более 15 тыс. человек, которые не хотят быть «объектом эксперимента».

Источник изображения: Pixabay

Нынешний главный редактор Off Radio Марцин Пулит (Marcin Pulit) утверждает, что «никого не уволили с Радио Краков из-за внедрения инструментов искусственного интеллекта». По его словам, «это были приглашённые сотрудники, которые делали для нас программы раз в неделю. Контракты истекли не потому, что был внедрён искусственный интеллект, а потому, что эта формула не работает, потому что она по существу пересекается с двумя другими программами и не имеет масштаба, а аудитория радиостанции была близка к нулю».

Пулит подчеркнул, что ИИ-ведущие — просто инструменты, которые используются реальными журналистами. Он сообщил, часть авторских музыкальных программ была передана на «Радио Краков Культура», а одна — на основной канал радиостанции. «У нас по-прежнему работают два штатных сотрудника — на основном канале и на “Радио Краков Культура”», — пояснил Пулит.

На проблему обратил внимание вице-премьер и министр по информатизации Кшиштоф Гавковски (Krzysztof Gawkowski), указавший на назревшую необходимость регулирования сферы ИИ: «Хоть я и фанат развития ИИ, но считаю, что мы все чаще выходим за конкретные границы. Использование ИИ должно быть для людей, а не против них!».

Минцифры России планирует до конца года запустить на портале «Госуслуги» бета-версию консультанта, основой которого станет отечественная нейросеть. Об этом рассказал министр цифрового развития Максут Шадаев во время выступления на пленарном заседании «Инфотех-2024».

Источник изображения: geralt/Pixabay

По словам министра, в ведомстве видят огромный потенциал для использования искусственного интеллекта в процессе предоставления госуслуг. Прежде всего речь идёт о реализации возможности получения быстрых и точных ответов на любые вопросы. «Мы с начала года тестируем российские модели и проводим закрытые тестирования, и я рад сказать, что в конце года откроем бета-версию», — добавил Максут Шадаев.

В ходе выступления министр рассказал, что во время тестирования были отмечены высокие результаты в плане того, как быстро ИИ-алгоритм справляется с ответом на пользовательские вопросы. Параллельно с этим ведётся внедрение ИИ-технологий для борьбы с мошенничеством. Нейросеть используется для выявления аномальных шаблонов поведения пользователей и снижения количества неприятных инцидентов.

В феврале текущего года Максут Шадаев говорил о возможности использования ИИ-ботов для консультирования пользователей портала «Госуслуги». Тогда же министр отмечал необходимость развития проактивных услуг, которые могут оказываться без обращения, а все консультации должен выполнять ИИ-алгоритм, заполняя необходимые заявления за человека.

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.

Генеральный директор Qualcomm Inc. Криштиано Амон (Cristiano Amon), представивший на этой неделе новую версию микропроцессора Snapdragon, заявил, что новые смартфоны, поддерживающие функции на базе искусственного интеллекта на самом устройстве, станут обычным явлением в течение нескольких лет. Об этом он рассказал во время интервью для Bloomberg Television.

Источник изображения: Qualcomm

«В течение следующих пяти лет у нас, у всех у нас, вероятно, будет смартфон с искусственным интеллектом», — заявил господин Амон.

Компания Qualcomm доминирует на рынке процессоров для мобильных устройств, работающих под управлением операционной системы Android. На этой неделе производитель представил мощный микропроцессор Snapdragon 8 Elite, который поднимет производительность смартфонов до уровня ноутбуков и позволит работать ИИ-приложениям прямо на устройстве. Новые чипы компании могут похвастаться увеличением производительности почти на 45 % и меньшим энергопотреблением в сравнении с процессором предыдущего поколения Snapdragon 8 Gen 3.

В ходе интервью Амон отказался комментировать вопрос, связанный со слухами о полном или частичном поглощении Intel. «Мы прошли путь от смартфонов до автомобилей, от компьютеров до промышленного оборудования. Мы сделали всё это органично. Мы считаем, что у нас очень конкурентоспособная дорожная карта», — заявил глава Qualcomm.

Huawei продолжает использовать передовые чипы TSMC в своих ИИ-продуктах, несмотря на запрет США. TSMC отрицает поставки после 2020 года китайским производителям. Однако в современном ИИ-ускорителе Huawei Ascend 910B обнаружился чип, произведённый TSMC, что ставит под угрозу репутацию обеих компаний.

Источник изображения: convertcrypto.ru

Канадская исследовательская фирма TechInsights разобрала один из новейших ускорителей искусственного интеллекта Huawei и обнаружила внутри чип Ascend 910B, произведённый компанией TSMC. Об этом сообщил Bloomberg со ссылкой на источник, знакомый с результатами исследования. Источник пожелал остаться анонимными, так как отчёт пока не был официально опубликован.

Весьма вероятно, что Huawei получила чипы через подставную компанию. По данным Financial Times, некоторое время назад сторонняя компания заказала у TSMC производство чипов, подозрительно похожих на решения Huawei, о чём TSMC уведомила власти США. Формальных причин для отказа не нашлось, и, по всей видимости, чипы были изготовлены. Теперь же, по сообщению The Information, Минторг США ведёт расследование в отношении TSMC.

Huawei с 2020 года находится в санкционном списке и не может вести бизнес с TSMC и другими контрактными производителями полупроводников без лицензии от правительства США. В прошлом году Huawei полагалась на своего местного партнёра, компанию SMIC, которая производила 7-нм чипы, используемые во флагманских смартфонах Huawei. Однако представители США неоднократно выражали сомнения в способности SMIC производить подобные чипы в большом масштабе и, тем более, показывать производительность необходимого уровня. Обнаруженный чип TSMC в ИИ-ускорителе Huawei подтверждает это мнение. Остаётся неясным, как и когда Huawei получила эти чипы, учитывая, что тайваньская компания TSMC заявила о прекращении всех поставок для китайского техногиганта с 15 сентября 2020 года.

«TSMC соблюдает законы и привержена выполнению всех применимых правил и норм, включая экспортный контроль. В соответствии с нормативными требованиями, TSMC не поставляла продукцию Huawei с середины сентября 2020 года, — говорится в заявлении компании. — Мы связались с Министерством торговли США по этому вопросу и на данный момент не осведомлены о каких-либо расследованиях в отношении нас».

В свою очередь Huawei заявила, что с 2020 года не получала чипы от TSMC после изменений в американских правилах экспорта, известных как «Правило прямого иностранного продукта» (FDPR). «Huawei никогда не выпускала чип 910B», — добавили в компании.

Представитель Министерства торговли США заявил, что Бюро промышленности и безопасности (BIS), ответственное за контроль торговли полупроводниками, «осведомлено о сообщениях о возможных нарушениях экспортного контроля США». Однако он отказался уточнять, ведётся ли расследование.

Напомним, до ускорителя Huawei Ascend 910B в производство был запущен в 2019 году его предшественник Huawei 910, то есть до расширения санкций США против китайской компании. Тогда Huawei запаслась чипами TSMC. Ускоритель 910B, по данным аналитического центра Center for Security and Emerging Technology (США), впервые был замечен в серверной продукции в 2022 году. В китайских новостных изданиях он стал упоминаться в 2023 году, хотя официального запуска от Huawei не было. В августе 2023 года местная компания Iflytek представила сервер с этим ИИ-ускорителем, а Baidu заказала более 1000 единиц 910B ещё в прошлом году, согласно данным исследовательской компании TrendForce.

Разработчики из Canva продолжают развивать свою дизайнерскую веб-платформу, добавляя новые функции на основе искусственного интеллекта и улучшая уже существующие. На этот раз они объявили об улучшении инструментов для создания текстовых и видеоэффектов, а также представили более мощный генератор изображений из текста под названием Dream Lab. ИИ-генератор изображений стал результатом покупки Canvas стартапа Leonardo.ai в начале этого года.

Источник изображения: Canva

В основе Dream Lab находится ИИ-модель Leonardo Phoenix, которая позволяет пользователям с помощью небольших текстовых подсказок создавать изображения в разных стилях, включая иллюстрации и 3D-рендеры. У Canvas уже был ИИ-генератор на базе нейросети Stable Diffusion и несколько приложений сторонних разработчиков, но с появлением Dream Lan пользователи платформы Canvas получат новые возможности. Например, представленный генератор лучше подходит для создания изображений фотографического качества и картинок с большим количеством объектов.

Ещё разработчики обновили набор ИИ-инструментов Magic, включая команды автозаполнения одним щелчком мыши для функции генерации текста Magic Write. Доски теперь поддерживают ИИ-функцию обобщения текста, а также стикеры с реакциями в режиме онлайн для совместных проектов. Добавлены инструменты для редактирования видео, которые автоматически генерируют субтитры и добавляют анимированные эффекты. Для лучшей визуализации пользователи смогут добавлять в свои презентации интерактивные диаграммы и графики. Библиотека ресурсов Canva пополнилась новой бесплатной музыкой и кинематографическими роликами, которые предоставляются по лицензии платформы Artlist.

Прошлой весной Anthropic заявила о намерении создать «алгоритм нового поколения для самообучения ИИ», который сможет самостоятельно выполнять большинство офисных задач, что позволило бы автоматизировать значительную часть экономики. Сегодня компания выпустила версию 3.5 своей модели Claude Sonnet, которая может через API Computer Use взаимодействовать с любым десктопным приложением, имитировать нажатия клавиш, клики и жесты мыши, полностью эмулируя человека.

Источник изображения: Pixabay

«Мы обучили Claude видеть, что происходит на экране, а затем использовать доступные программные инструменты для выполнения задач, — сообщает Anthropic. — Когда разработчик поручает Claude использовать часть компьютерного программного обеспечения и даёт ему необходимый доступ, Claude смотрит на скриншоты того, что видит пользователь, затем подсчитывает, на сколько пикселей по вертикали или горизонтали ему нужно переместить курсор, чтобы щёлкнуть в нужном месте».

Подобный инструмент, так называемый «агент ИИ», который может автоматизировать задачи на ПК, не является новой идеей. Термин агент ИИ пока остаётся нечётко определённым, но обычно под ним подразумевается ИИ, способный автоматизировать работу с программным обеспечением на ПК. Множество компаний сегодня предлагают подобные инструменты, начиная с Microsoft, Salesforce и OpenAI, и заканчивая новыми игроками, такими как Relay, Induced AI и Automat.

Стартап потребительских гаджетов Rabbit представил агента, который умеет самостоятельно покупать билеты онлайн. Adept, недавно приобретённый Amazon, обучает модели просмотру сайтов и навигации по программному обеспечению. Twin Labs использует готовые модели, включая GPT-4o от OpenAI, для автоматизации процессов рабочего стола.

Некоторые аналитики уверены, что агенты ИИ смогут обеспечить компаниям более простой способ монетизации миллиардов долларов, которые они вливают в ИИ. Согласно недавнему опросу Capgemini, 10 % организаций уже используют агентов ИИ, а 82 % планируют интегрировать их в течение следующих трёх лет.

Источник изображения: unsplash.com

Anthropic называет свою концепцию агента ИИ «слоем действия-исполнения», который позволяет ему выполнять команды на уровне рабочего стола. Благодаря способности просматривать веб-страницы, Claude 3.5 Sonnet может использовать в работе любой сайт и любое приложение.

«Люди контролируют процесс при помощи подсказок, направляющих действия Claude, например, “использовать данные с моего компьютера и из сети, чтобы заполнить эту форму”, — поясняет представитель Anthropic. — Люди разрешают доступ и ограничивают его по мере необходимости. Claude разбивает подсказки пользователя на компьютерные команды (например, перемещение курсора, нажатие, ввод текста) для выполнения этой конкретной задачи».

Источник изображений: Anthropic

В чём отличие Claude 3.5 Sonnet от других агентов ИИ? Anthropic утверждает, что это просто более сильная, более надёжная модель, которая справляется с задачами кодирования лучше, чем даже флагманский o1 от OpenAI, согласно бенчмарку SWE-bench Verified. Claude самостоятельно корректирует и повторяет задачи, когда сталкивается с препятствиями, и может работать над целями, требующими десятков или сотен шагов.

При этом Anthropic признает, что обновлённая модель испытывает трудности с базовыми действиями, такими как прокрутка и масштабирование, и может пропускать кратковременные события и уведомления из-за способа, которым она делает снимки экрана и объединяет их. Во время тестового бронирования авиабилетов Claude 3.5 Sonnet сумела успешно выполнить менее половины задач. В задаче возврата билетов новая модель не справилась примерно в трети случаев.

Результаты сравнительного тестирования моделей ИИ компанией Anthropic

Что касается безопасности, недавнее исследование показало, что даже модели не имеющие возможности использовать настольные приложения, такие как GPT-4o от OpenAI, могут быть задействованы во вредоносном «многошаговом агентском поведении», например, заказать поддельный паспорт в даркнете. Подобные результаты были достигнуты исследователями с использованием методов джейлбрейка, что привело к высокому проценту успешно выполненных вредоносных задач даже для защищённых моделей.

Можно предположить, что модель с доступом к управлению ПК может нанести значительно больший ущерб — например, используя уязвимости приложений для компрометации личной информации (или сохранения чатов в виде открытого текста). Помимо имеющихся в её распоряжении программных рычагов, сетевые и прикладные соединения модели могут открыть широкие возможности для злоумышленников.

Anthropic не отрицает, что использование Claude 3.5 Sonnet подвергает пользователя дополнительным рискам. Но по мнению компании «гораздо лучше предоставить компьютерам доступ к сегодняшним более ограниченным, относительно безопасным моделям — так мы можем начать наблюдать и извлекать уроки из любых потенциальных проблем, которые возникают на этом более низком уровне, постепенно и одновременно наращивая использование компьютеров и меры по снижению рисков для безопасности».

Anthropic заявляет, что предприняла некоторые шаги для предотвращения ненадлежащего использования, например, не обучала новую модель на снимках экрана и подсказках пользователей и не давала модели выходить в интернет во время обучения. Компания разработала классификаторы для предотвращения высокорисковых действий, таких как публикация в социальных сетях, создание учётных записей и взаимодействие с правительственными ресурсами.

Anthropic сообщила, что у неё есть возможность «при необходимости» ограничить доступ к дополнительным функциям, например, для защиты от спама, мошенничества и дезинформации. В качестве меры предосторожности компания хранит все снимки экрана, сделанные Computer Use, не менее 30 дней, что может создать дополнительную угрозу безопасности и конфиденциальности. Anthropic не сообщила при каких обстоятельствах она может передать снимки экрана третьей стороне (например, правоохранительным органам).

«Не существует надёжных методов, и мы будем постоянно оценивать и совершенствовать наши меры безопасности, чтобы сбалансировать возможности Claude с ответственным использованием, — утверждает Anthropic. — Тем, кто использует компьютерную версию Claude, следует принять соответствующие меры предосторожности, чтобы минимизировать подобные риски, включая изоляцию Claude от особо конфиденциальных данных на своём компьютере».

Источник изображения: Pixabay

Одновременно с выпуском модели Claude 3.5 Sonnet, Anthropic анонсировала скорый выход обновлённой версии Claude 3.5 Haiku. «Благодаря высокой скорости, улучшенному следованию инструкциям и более точному использованию инструментов Claude 3.5 Haiku хорошо подходит для продуктов, ориентированных на пользователя, специализированных задач субагентов и создания персонализированного опыта из огромных объёмов данных, таких как история покупок, цены или данные об инвентаре», — говорится в блоге Anthropic. Haiku изначально будет доступна как текстовая модель, а затем как часть мультимодального пакета, который может анализировать как текст, так и изображения.

Что касается выпуска обновлённой модели Claude 3.5 Opus, представитель Anthropic заявил: «Все модели в семействе Claude 3 имеют своё индивидуальное применение для клиентов. Claude 3.5 Opus есть в нашей дорожной карте, и мы обязательно поделимся с вами подробностями, как только сможем».

Разработчики уже могут протестировать Computer Use через API Anthropic, Amazon Bedrock и платформу Vertex AI от Google Cloud.

Meta✴ объявила о тестировании технологии распознавания лиц для борьбы с мошенническими рекламными объявлениями, в которых присутствуют изображения знаменитостей. Facebook✴ и Instagram✴ будут использовать новую функцию также и для выявления поддельных аккаунтов известных личностей, созданных для обмана пользователей.

Источник изображения: Gerd Altmann/Pixabay

Как поясняет издание TechCrunch, целью этих тестов является усиление уже существующих мер по борьбе с мошенничеством, таких как автоматические сканирования на основе машинного обучения, которые проверяют рекламные объявления на Facebook✴ и Instagram✴. Если объявление будет помечено как подозрительное, то немедленно начнётся процесс идентификации с фотографиями профиля аккаунта.

«Мошенники часто используют изображения известных личностей, таких как блогеров или других знаменитостей, чтобы заманить людей на мошеннические сайты, где у них запрашивается личная информация или деньги. Эта схема, известная как "celeb-bait", нарушает наши правила и вредит пользователям наших продуктов», — пишет в блоге компании вице-президент Meta✴ по политике контента Моника Бикерт (Monika Bickert). Она подчёркивает, что если будет подтверждено совпадение с фотографией профиля знаменитости, но объявление окажется мошенническим, оно будет заблокировано.

Meta✴ утверждает, что технология распознавания лиц используется исключительно для борьбы с мошенническими объявлениями и после проверки все изображения, независимо от того, найдены ли совпадения или нет, удаляются и не используются в каких-либо других целях. Первые тесты с участием небольшой группы публичных персон показали «обнадёживающие» результаты, касающиеся скорости и эффективности выявления и блокировки мошеннической рекламы. Компания также рассматривает возможность применения технологии для обнаружения рекламных дипфейков, созданных с помощью генеративного ИИ, а также тестирует распознавание лиц для обнаружения поддельных аккаунтов знаменитостей.

В ближайшие недели компания начнёт отправлять уведомления внутри приложений более широкому кругу публичных фигур, чьи изображения использовались в мошеннических объявлениях, информируя их о том, что они автоматически включены в систему защиты. Однако от этой функции, по словам Бикерт, можно в любой момент отказаться через Центр аккаунтов.

Помимо прочего, Meta✴ начала тестирование видео-селфи с применением распознавания лиц для ускорения процесса восстановления доступа к аккаунтам, которые были по какой-либо причине заблокированы. Этот метод ускорит и упростит процесс восстановления доступа по сравнению с загрузкой изображения удостоверения личности. Отмечается, что «видео-селфи верификация расширяет возможности для восстановления доступа к аккаунту, занимает всего минуту и является самым простым способом подтвердить свою личность». Данный метод аналогичен идентификации с помощью Face ID на iPhone.

Компания ByteDance, владелец TikTok, подтвердила увольнение стажёра за злонамеренное внедрение вредоносного кода в модели искусственного интеллекта. Действия молодого человека, предположительно, обошлись компании убытком в десятки миллионов долларов.

Источник изображения: Claudio Schwarz/Unsplash

ByteDance хоть и подтвердила увольнение стажёра, однако, как сообщает издание Ars Technica, опровергла слухи о многомиллионных потерях и потерянной вычислительной мощности 8000 графических процессоров, пытаясь прекратить вредящие имиджу компании разговоры на эту тему в китайских социальных сетях. ByteDance назвала эти утверждения «сильно преувеличенными» и подчеркнула, что ущерб был значительно меньше.

Согласно официальному заявлению, стажёр занимал позицию в коммерческой технологической команде и «злонамеренно вмешивался в задачи по обучению моделей» в рамках исследовательского проекта. Компания также обвинила стажёра в добавлении ложной информации в свой профиль в социальных сетях, где он указывал, что его работа связана с лабораторией искусственного интеллекта ByteDance, а не с командой коммерческих технологий. ByteDance уведомила университет стажёра и отраслевые ассоциации о случившемся, предположительно, чтобы предотвратить его попытки ввести в заблуждение других.

В компании подчёркивают, что ни одно из коммерческих направлений не пострадало и алгоритмы больших языковых моделей (LLM) также не были затронуты. Несмотря на это заявление, некоторые пользователи социальных сетей продолжают сомневаться в официальной версии. Одни утверждают, что команда коммерциализации, в которой работал стажёр, ранее входила в состав лаборатории ИИ, и что стажёр мог использовать «вредоносный код» для «преднамеренного саботажа обучения моделей в течение как минимум нескольких месяцев». Другие комментаторы предполагают, что ByteDance преуменьшает ущерб, и что «потеря вычислительной мощности сама по себе может составлять несколько миллионов долларов, если не десятки, не говоря уже о потере времени, энергии и заработной платы всей исследовательской группы».