Microsoft несёт убытки, предлагая подписку на свой ИИ-сервис GitHub Copilot всего за $10 в месяц, при фактических затратах, превышающих $20 на одного пользователя. Этот случай является лишь вершиной айсберга в сложной экономике ИИ, где расходы на оборудование, энергию и разработку ПО оказываются неоправданно высокими. Компания уже ищет пути оптимизации, включая пересмотр ценовой политики и внедрение более экономичных решений.

Источник изображения: GitHub

В начале 2023 года The Wall Street Journal уже писала о проблеме рентабельности ИИ для технологических гигантов, в числе которых Microsoft, Alphabet, Adobe и AWS (Amazon Web Services). Особое внимание привлекает ситуация с Microsoft и их сервисом GitHub Copilot, доступным по подписке за $10 в месяц. Несмотря на партнёрство с OpenAI и наличие более чем 1,5 млн пользователей, сервис остаётся убыточным.

Реальные операционные расходы в случае некоторых пользователей могут и вовсе достигать порядка $80 в месяц. Сервис, ориентированный на помощь программистам в создании и рефакторинге кода, пользуется высокой популярностью, однако высокие операционные затраты Microsoft ставят под вопрос его долгосрочную рентабельность. Перспективы изменения этой ситуации во многом зависят от возможного снижения стоимости вычислительных ресурсов.

ИИ является ресурсоёмкой технологией, требующей значительных капиталовложений не только в оборудование, но и в разработку ПО, а также в энергетику. Эти расходы, как показывает практика, не всегда окупаются, особенно на начальных этапах развития продукта или сервиса.

Для достижения рентабельности компания рассматривает различные стратегии. Одним из предложенных вариантов является повышение цен на ПО и услуги, созданные на основе ИИ. Как утверждается, и Microsoft, и Google планируют взимать дополнительные $30 за доступ к ИИ-функциональности в рамках своих корпоративных программных пакетов.

Компании также рассматривают возможность использования менее мощных, но более экономичных ИИ-решений. Например, вместо последней версии GPT-4 можно обойтись моделью ChatGPT 3.5, если она удовлетворяет требованиям тех или иных задач. Это позволяет снизить расходы без значительной потери в качестве.

GitHub, принадлежащий корпорации Microsoft, расширил доступ к своему ИИ-помощнику для программистов — Copilot Chat. Теперь инструмент доступен не только командам разработчиков, но и рядовым пользователям. С помощью Copilot Chat можно обучаться новым языкам программирования, решать технические проблемы и получать ответы на вопросы по программированию, не покидая интегрированных сред разработки Visual Studio и Visual Studio Code.

Источник изображений: GitHub

Copilot Chat — это ИИ-помощник, отвечающий на вопросы программиста, касающиеся написания кода. Впервые сервис был представлен в июле в публичной бета-версии для бизнес-пользователей. Теперь он стал доступен рядовым пользователям, помогая им не только находить ошибки в коде, но и обучаться новым языкам программирования и фреймворкам, отвечая на вопросы в простой и понятной форме.

Для того чтобы воспользоваться новым инструментом, потребуется оформить подписку. GitHub предлагает индивидуальную подписку стоимостью $10 в месяц или $100 в год.

Рынок чат-ботов для программистов продолжает расти благодаря и другим компаниям, вроде Google и Amazon, которые предлагают пользователям собственные ИИ-сервисы. Google представил своего помощника для разработчиков на Android в мае на конференции Google I/O, а Amazon разработал инструмент под названием CodeWhisperer.

Расширение доступа к Copilot Chat подчёркивает растущее влияние ИИ в сфере разработки ПО. Инструмент не просто облегчает процесс создания кода, но и открывает новые горизонты для обучения и совершенствования навыков программистов различного уровня. В будущем можно ожидать, что подобные решения станут неотъемлемой частью арсенала каждого разработчика, способствуя повышению эффективности и качества работы в этой области.

Специализирующиеся на искусственном интеллекте сотрудники научного подразделения Microsoft случайно выложили в общий доступ несколько десятков терабайтов конфиденциальных данных, включающих пароли и закрытые ключи. Информация была раскрыта при публикации на GitHub массива обучающих данных в проекте с открытым исходным кодом.

Пользователям общедоступного репозитория GitHub был открыт исходный код и модель ИИ для распознавания изображений, а также возможность загрузки материалов по URL-адресу из хранилища Azure. Эксперты стартапа Wiz, специализирующегося на вопросах облачной безопасности, обнаружили, что данный URL-адрес открывал пользователю полный доступ к облачному хранилищу, включая 38 Тбайт конфиденциальной информации, в том числе личные резервные копии ПК двух сотрудников Microsoft. В массиве также оказались пароли к службам Microsoft, секретные ключи доступа и более 30 000 сообщений из мессенджера Microsoft Teams от нескольких сотен сотрудников Microsoft.

Данный URL-адрес, доступный с 2020 года, содержал токен подписи общего доступа, который позволял не только читать данные из хранилища Azure, но и давал привилегии для их добавления и редактирования — любой желающий мог разместить там вредоносный контент. В Wiz сообщили о своём открытии Microsoft 22 июня, и 24 июня токен привилегированного доступа был отозван. Расследование инцидента в корпорации завершили 16 августа.

В результате инцидента «не было раскрыто клиентских данных, и прочие внутренние службы в связи с этой проблемой не были подвержены угрозе», по версии Microsoft. Компания расширила возможности службы безопасности GitHub, добавив в неё новые функции контроля за раскрытием учётных данных и прочей закрытой информации — в их число были включены токены общего доступа, которые могут иметь чрезвычайно широкие привилегии и продолжительные сроки действия.

АО «Группа Астра» (головное юрлицо разработчика ОС Astra Linux ООО «РусБИТех-Астра») планирует до конца года запустить платформу для совместной разработки открытого кода, которая должна стать альтернативой зарубежным сервисам GitHub и GitLab. Это означает, что компания включается в гонку по запуску отечественного аналога GitHub, в которой уже принимают участие «Ростелеком», ДИТ Москвы и Минцифры.

Источник изображения: Pixabay

В рамках реализации проекта по выведению на рынок российского аналога GitHub АО «Группа Астра» купила долю в размере 26 % в ООО «Ресолют», разработчике платформы для хранения открытого исходного кода и совместной разработки GitFlic. В «Группе Астра» уточнили, что это первый этап сделки, по итогам второго этапа компания станет владельцем 51 % «Ресолюта», а остальные доли останутся у основателей предприятия.

«Компания уже работает над платформой, которая будет представлять собой законченную среду с комбинацией инструментов управления исходными кодами, тестированием, автоматизацией, документацией, фреймворком, шаблонами разработки», — рассказал гендиректор АО «Группы Астра» Илья Сивцев. Он подтвердил разработку аналога зарубежных сервисов вроде GitHub, а также сообщил о намерении запустить платформу до конца этого года.

В «Ресолюте» сообщили, что поддержка крупного вендора позволит увеличить темпы разработки продукта. Компания также намерена вывести на рынок «коробочные решения, в том числе со средствами защиты информации». Сумма сделки, в рамках которой 51 % «Ресолюта» перейдёт под контроль АО «Группа Астра», не разглашается. Гендиректор «АФИ Капитал» Алексей Гориславец считает, что сумма сделки по покупке 26 % «Ресолюта» может составлять 5 млн рублей, а в случае получения контроля — 10 млн рублей.

Основанный на искусственном интеллекте ассистент GitHub Copilot уже упростил задачу программистам, но иногда он предлагает фрагменты кода, уже присутствующие в общедоступных репозиториях, и это чревато претензиями со стороны других разработчиков.

Источник изображения: github.blog

В 2022 году GitHub предложил опцию автоматической блокировки предложений, содержащих такой код, но в отдельных случаях программисты всё-таки считают нужным хотя бы ознакомиться с ним. В стремлении найти золотую середину GitHub начал тестировать функцию, которая даст пользователям такой выбор: Copilot не блокирует подобный код в автоматическом режиме, а показывает его в боковой панели, позволяя разработчику самостоятельно решать, что с ним делать. Со временем эта функция переместится в Copilot Chat.

Функцию блокировки выбрало большинство корпоративных клиентов GitHub, пояснил гендиректор платформы Томас Домке (Thomas Dohmke), включая Microsoft и сотрудников самого GitHub, но такой подход можно охарактеризовать как слишком грубый — всегда есть вероятность, что «вы воспроизводите всё, уже существует в каком-нибудь репозитории с открытым исходным кодом». Часто это касается базовых алгоритмов, например, сортировки, которая, как правило, существует в самых разных проектах. И теперь у программистов есть выбор: отказаться от предложенного фрагмента кода; использовать его напрямую, если это позволяет лицензия; или попросить Copilot переписать фрагмент, чтобы избежать полного копирования. Сейчас GitHub работает над тем, чтобы предлагаемые Copilot образцы кода заимствовались только из проектов, лицензия которых позволяет это делать.

Вероятность явного заимствования кода оказывается выше в начале проекта, когда объём контекста минимален. По мере работы над проектом Copilot всё реже предлагает фрагменты, содержащиеся в других репозиториях. В основе функции лежит очень быстрая поисковая система — в перспективе задержку планируют сократить до 10–20 мс. Система оперативно обнаруживает необходимый код и указывает его лицензию. Фрагменты приводятся в том порядке, в котором их обнаруживает поисковая система, но в GitHub говорят, что у разработчиков появятся различные варианты сортировки выдачи: по дате, по типу лицензии и по другим критериям.

Всего через неделю после инцидента с утечкой части исходного кода Twitter на ресурсе GitHub администрация социальной сети выложила в одноимённый репозиторий уже официально одобренные к свободному распространению фрагменты кода. По замыслу Илона Маска (Elon Musk), подобная инициатива сделает Twitter похожей на Linux, поможет усовершенствовать алгоритмы и устранить ошибки при помощи сторонних разработчиков.

Источник изображения: Reuters, Dado Ruvic

Безусловно, соответствующая информация будет в большей степени интересна профессиональным разработчикам, поэтому Twitter одновременно опубликовала и инструкции по работе с исходным кодом. Наибольшей открытости пока удостоилась та часть исходного кода Twitter, которая имеет отношение к рекомендательным алгоритмам, позволяющим социальной сети предлагать пользователям наиболее интересные им записи.

Как поясняется, настроенная примерно по 48 млн параметров нейронная сеть ежедневно фильтрует сотни миллионов твитов, чтобы выделить из них примерно 1500 штук, наиболее соответствующих интересам каждого конкретного пользователя. Они затем фильтруются дополнительно, чтобы попасть в раздел рекомендаций «For You». Лента этого раздела на 50 % состоит из авторов, за активностью которых пользователь следит, и на 50 % — из незнакомых ему авторов.

По словам Илона Маска, команда Twitter готова обновлять рекомендательный алгоритм каждые 24 или 48 часов, опираясь на предложения пользователей и сторонних разработчиков. Критике уже подверглась практика присвоения отдельным пользователям маркера принадлежности к республиканцам и демократам по своим политическим убеждениям, но когда эта информация дошла до Маска, он заявил, что такого быть не должно. По словам сотрудников Twitter, эта устаревшая классификация никак на работу системы рекомендаций сейчас не влияет, и должна быть удалена в обозримом будущем.

В репозитории GitHub не будут доступны фрагменты исходного кода Twitter, которые позволяют понять, как работает рекомендательный механизм для демонстрации пользователям рекламы. Компания также защитит от посторонних глаз всю ту информацию, которая может быть использована злоумышленниками для доступа к пользовательским данным или для обхода механизмов защиты от злоупотребления незаконным контентом. «Люди будут находить много ошибок, но мы собираемся устранять их очень быстро. Примером для подражания в этом случае, которым мы вдохновлялись, является Linux в качестве операционной системы с открытым исходным кодом», — пояснил Илон Маск в сессии голосовых чатов Twitter Spaces.

В прошлую пятницу, как сообщает CNBC со ссылкой на судебный документооборот, на страницах ресурса GitHub некий пользователь с псевдонимом FreeSpeechEnthusiast разместил фрагменты исходного кода Twitter без разрешения одноимённой компании, и теперь она пытается выйти на его след. В настоящее время фрагменты кода со страниц GitHub уже удалены.

Источник изображения: Reuters, Dado Ruvic

Фактически, как поясняет CNBC, утечка была перекрыта в тот же день по запросу Twitter. Представители последней ситуацию пока никак не комментируют, но из судебных документов известно, что они запросили у GitHub информацию, позволяющую идентифицировать личность пользователя, выложившего фрагменты исходного кода Twitter на страницах этого ресурса. По предварительным данным, он зарегистрировался на GitHub только в этом году, а в ходе описываемой утечки выложил на ресурсе данные кеша Twitter. Компания также требует от GitHub информацию о тех пользователях, которые успели скачать выложенную информацию.

Самое интересное, что Илон Маск (Elon Musk) ранее заявлял о готовности выложить в открытый доступ ту часть исходного кода Twitter, которая отвечает за рекомендации. Сделать это планировалось к 31 марта, хотя сам Маск и признал, что подобная практика будет смущать представителей компании на первых порах. Пока нет информации о том, имела ли пятничная утечка отношение к рекомендательным алгоритмам Twitter. Одновременно компанией запущено внутреннее служебное расследование, направленное на поиск виновных в инциденте.

Принадлежащая Microsoft платформа GitHub представила обновлённую версию ассистента Copilot X, предназначенную для оказания расширенной помощи программисту — теперь здесь есть функция чат-бота и голосовой ввод.

Источник изображения: github.blog

Программист может обращаться к Copilot X в случае затруднений, без необходимости просить помощи на профильных ресурсах — система подсказывает, как выполнять те или иные задачи при написании кода. Глава GitHub Томас Домке (Thomas Dohmke) привёл пример: Copilot X рассказала, как можно написать игру «Змейка» на Python. В окне чата система подсказывает, для чего предназначены те или иные фрагменты кода, предлагает способы его тестирования и исправления ошибок.

GitHub впервые рассказала о Copilot в 2021 году, а вышла платформа лишь в следующем году. Тогда это был инструмент, автоматически дописывающий отдельные строки кода, и он обрёл популярность среди сотни тысяч разработчиков. Сегодня название системы распространилось на широкий спектр прочих продуктов Microsoft от офисных программ до компонентов безопасности.

В новой версии ассистент программиста получил поддержку последней версии языковой модели GPT-4, однако она потребовалась не для всех компонентов: GitHub хочет использовать разные модели для разных задач. Функция автозавершения строки останется на предыдущей версии, потому что для её работы больше важна скорость, чем точность. А возможности GPT-4 нашли применение в новом чат-боте, где они более уместны. Для подключения Copilot X программистам придётся зарегистрироваться в списке ожидания — общедоступным инструмент пока не стал.