Компания Meta✴ выпустила инструмент под названием Code Llama — он основан на большой языковой ИИ-модели Llama 2 и предназначается для генерации программного кода, а также отладки кода, написанного человеком. Продукт издаётся под той же лицензией: он бесплатен для использования в исследовательских и коммерческих целях.

Источник изображения: Gerd Altmann / pixabay.com

Code Llama генерирует код по описанию, а также завершает и отлаживает его при указании на определённую строку. В дополнение к базовой модели Code Llama выпустила две дополнительных: одну специализированную Code Llama-Python и вторую Code Llama-Instrct, которая воспринимает команды естественным языком. Модели взаимозаменяемыми не являются — базовую Code Llama и Code Llama-Python разработчик не рекомендует использовать для управления на естественном языке.

В Meta✴ заявили, что Code Llama демонстрирует лучшие результаты в сравнении с общедоступными большими языковыми моделями — это подтверждают тесты производительности, хотя компания не уточнила, какие платформы участвовали в тестировании. В тесте HumanEval система набрала 53,7 % и смогла точно написать код на основе текстового описания. Разработчик выпустит три варианта Code Llama, меньший из которых можно будет запустить на системе с одним графическим процессором.

Аналогичные продукты уже есть у конкурентов Meta✴: на основе OpenAI GPT-4 был запущен инструмент GitHub Copilot, у AWS есть CodeWhisperer, а Google разработала AlphaCode, но пока не выпустила его. На владеющую платформой GitHub компанию Microsoft уже подали в суд, обвинив её в том, что Copilot нарушает авторское право, поскольку воспроизводит чужой код.

Microsoft добавила поддержку языка программирования Python в Excel. Сегодня стала доступна предварительная версия этой функции, которая позволяет пользователям табличного процессора управлять данными и анализировать их с помощью инструкций Python и Power Query, надстройки Excel, обеспечивающей обнаружение, доступ и совместное использование данных для бизнес-аналитики.

Источник изображения: unsplash.com

«Вы можете исследовать данные в Excel с помощью библиотек Python, а затем использовать формулы, диаграммы и сводные таблицы для дальнейшего уточнения своих идей, — пояснил генеральный менеджер отдела современной работы Microsoft Стефан Киннестранд (Stefan Kinnestrand). — Теперь вы можете выполнять расширенный анализ данных в знакомой среде Excel, получая доступ к Python прямо из интерфейса Excel».

Microsoft также добавила новую функцию PY, которая позволяет отображать данные Python в ячейках электронной таблицы Excel. Благодаря партнёрству с Anaconda, корпоративным репозиторием Python, популярные библиотеки Python, такие как Pandas, Statsmodels, Seaborn и Matplotlib, будут доступны в Excel. Расчёты Python выполняются в Microsoft Cloud, а результаты возвращаются в таблицу Excel. Пользователи Excel смогут создавать формулы, сводные таблицы и диаграммы на основе данных Python для визуализации тепловых карт, роевых диаграмм и скрипичных графиков.

Источник изображения: Microsoft

«Я рад, что интеграция Python и Excel увидела свет, — говорит создатель Python, а ныне заслуженный инженер Microsoft Гвидо Ван Россум (Guido van Rossum), — Я ожидаю, что оба сообщества найдут новые интересные применения в этом сотрудничестве, расширив возможности каждого партнёра. Когда я присоединился к Microsoft три года назад, я и представить себе не мог, что такое возможно».

В настоящий момент Python в Excel развёртывается в качестве общедоступной версии для участников программы предварительной оценки Microsoft 365 в бета-канале. Сначала он будет ограничен Windows, а затем станет доступен для других платформ.

Опрос разработчиков, проведённый сайтом вопросов и ответов о программировании Stack Overflow, показал, что инструменты на базе искусственного интеллекта становятся обычным явлением в отрасли, хотя программисты по-прежнему скептически относятся к их точности.

Источник изображения: pixabay

Результаты опроса показали, что 77 % респондентов положительно относятся к использованию ИИ в своём рабочем процессе, а 70 % уже используют или планируют использовать инструменты для программирования с помощью ИИ в этом году. Респонденты отметили такие преимущества, как повышение производительности (33 %) и ускорение обучения (25 %), но при этом заявили, что с опаской относятся к точности этих систем. Только 3 % респондентов заявили, что они «полностью доверяют» инструментам ИИ, а 39 % заявили, что они «частично доверяют» им. Ещё 31 % выбрали ответ «не определился», а остальные отметили «отношусь настороженно» (22 %) или «совсем не доверяю» (5 %).

По данным Stack Overflow, в ежегодном опросе приняли участие 90 тыс. респондентов из 185 стран. Другие основные моменты, касающиеся использования ИИ, включают:

• ChatGPT — самый популярный инструмент поиска с использованием ИИ, которым пользуются 83 % респондентов, далее следуют Bing (20 %), WolframAlpha (13 %) и Google Bard (10 %);
• GitHub Copilot — самый популярный инструмент для поиска среди разработчиков, которым пользуются 55 % респондентов, за ним следуют Tabnine (13 %) и AWS CodeWhisperer (5 %);
• респонденты из Индии, Бразилии и Польши чаще используют инструменты искусственного интеллекта, чем разработчики из США, Великобритании и Германии;
• респонденты, которые ещё учатся программированию, чаще используют инструменты ИИ, чем те, кто назвал себя «профессиональным разработчиком» (82 % против 70 %).

Сейчас Stack Overflow пытается решить, как остановить контент, созданный ИИ, от загрязнения собственной базы знаний, созданной сообществом. В декабре прошлого года компания временно запретила подсказки для программистов, созданные ИИ, но в мае, по сути, отменила это решение.

Сервис онлайн-обучения цифровым профессиям «Яндекс Практикум» предлагает сотрудничество для разработчиков и аналитиков на парт-тайме в роли авторов курсов.

Задача автора — создавать и улучшать образовательный контент, чтобы обучение было актуальным, вовлекающим и понятным даже новичку, чтобы студенты учились и достигали своих целей: находили новую работу или получали повышение по карьерной лестнице.

Сотрудничество в среднем занимает 2—3 часа в день в зависимости от курса, поэтому легко можно совмещать с основной работой и получать дополнительный доход.

Авторы — это проводники в обучении и в мир новых профессий. Именно они:

• Создают материалы для новых курсов.
• Улучшают существующий контент на основе обратной связи от студентов, экспертов сопровождения и редакторов.
• Разрабатывают дополнительные материалы и тестовые задания для проверки знаний.
• Предлагают идеи, как улучшить усвоение материала.
• Делятся знаниями и накопленным опытом, общаясь со студентами через текст.
• Влияют на качество выпускаемых студентов, а значит имеют возможность влиять и на свою профессиональную отрасль.

«Если авторы хотят делиться экспертизой, то лучше всего это делать в Практикуме. У нас крутая команда контента и отличное коммьюнити. Мы научим понятно излагать свои мысли, красиво писать уроки и обучать людей», — Кристина Беляева, автор в команде «Аналитики данных и Машинного обучения».

В первую очередь ищут авторов на курсы машинное обучение (MLE) и дизайн мобильных приложений, а также:

• iOS-разработчик / Android-разработчик
• Мидл-фронтенд разработчик
• Data Engineering (DE)
• SQL для разработки
• Системный аналитик
• Data Science

Изучить список курсов, на которые требуются специалисты, и отправить свой отклик можно по ссылке.

На мероприятии Google I/O компания представила набор основанных на алгоритмах искусственного интеллекта инструментов помощи программисту, в том числе чат-бот, выступающий прямым конкурентом GitHub Copilot — он ассистирует в написании кода и работе с облачными сервисами Google.

Источник изображения: Alex Dudar / unsplash.com

В основе всех этих инструментов, предлагающих автоматическое дополнение и генерацию кода, лежит нейросеть Codey, которая, в свою очередь, базируется на большой языковой модели Google PaLM 2. Компания обучила Codey на большом объёме исходного кода, лицензия которого позволяет использовать его в этих целях, а также на коде собственных продуктов Google. Проект получил интеграцию с экосистемой сервисов компании: она постоянно обучается на коде её проектов, и хотя первичным для неё является контекст Google Cloud, предлагаемый код не ограничивается этим направлением: поддерживаются языки Go, Java, JavaScript, Python и SQL, а начать работу с новыми инструментами можно будет, установив расширения для сред Visual Studio Code, IDE JetBrains и Google Shell.

К сожалению, пока доступ к новым инструментам есть только у небольшого числа клиентов компании — вероятно, более подробно о своих планах она расскажет на мероприятии Google Cloud Next. В перспективе компания собирается использовать эти ИИ-модели, чтобы помочь разработчикам управлять услугами в Google Cloud, включая развёртывание и масштабирование приложений — изучить все возможности инфраструктуры было бы затруднительно, ведь в её документации уже более миллиона страниц. Наконец, сообщили в компании, Google решила избавить клиентов от выполнения рутинных задач, чтобы освободить время для чего-то более творческого.

Google рассказала, что одной из главных тем среди поисковых запросов является сфера программирования, поэтому основанный на ИИ чат-бот Bard получил возможность генерировать, отлаживать и объяснять принципы работы кода.

Источник изображения: Google

Bard поддерживает 20 языков программирования, включая C++, Java, JavaScript и Python. Система имеет интеграцию с другими продуктами Google, а значит, поддерживается экспорт кода в среду Colab для программирования на Python, кроме того, система может помочь в написании функций для Google Таблиц.

Помимо генерации кода, Bard может давать пояснения к его фрагментам — это пригодится для тех, кто только начал изучать программирование. Таким пользователям система покажет, почему тот или иной фрагмент выдаёт определённый результат. Кроме того, можно отладить код, который работает не вполне так, как хотелось бы.

В Google допускают, что пока Bard может выдать код, который не дат ожидаемого результата или окажется неполным, поэтому рекомендуется проверять и тестировать ответы. При желании он может отладить и собственное творение, если указать ему, что оно не работает. А более опытные программисты могут обратиться к системе с просьбой оптимизировать код, сделав его быстрее или эффективнее.

Amazon сделала бесплатным доступ к ИИ-платформе CodeWhisperer, предлагающей помощь в написании программного кода — аналогичный продукт от её конкурента Microsoft обходится в $10 за месяц. Желающим воспользоваться CodeWhisperer достаточно пройти регистрацию.

Источник изображения: Gerd Altmann / pixabay.com

Amazon представила предварительную версию CodeWhisperer в прошлом году — уже тогда она поддерживалась средами разработки вроде Visual Studio Code и создавала код по текстовому описанию. Первоначально платформа была доступной только для клиентов Amazon Web Services, теперь же ей может бесплатно воспользоваться любой желающий.

CodeWhisperer анализирует код, выявляя в нём уязвимости и предлагая варианты для исправления ошибок. Система поддерживает наиболее популярные языки, в том числе Python, Java, JavaScript, TypeScript, C#, Go, Rust, PHP, Ruby, Kotlin, C, C++, Shell-скрпты, а также SQL и Scala.

Принадлежащая Microsoft платформа GitHub опередила Amazon, выпустив инструмент Copilot — он аналогичным образом генерирует и предлагает код программисту, но бесплатно им пользоваться могут только студенты и разработчики популярных проектов Open Source. Остальным приходится платить $10 в месяц или $100 в год. У Google тоже есть свой аналог под названием AlphaCode, но он пока находится на стадии тестирования.

Разработчик с псевдонимом BioBootloader представил скрипты «Росомаха» (Wolverine), которые выявляют причины неработоспособности программ и исправляют ошибки с привлечением большой языковой модели GPT-4. «Росомаха» трудится до тех пор, пока программа не начнёт работать. Каждая найденная ошибка сопровождается пояснением, почему её нужно исправить. Пока это наглядный пример возможностей машинного обучения, но перспективы бесконечны.

Источник изображения: Pixabay

Каждому программисту известно, что обычно проще написать что-то своё, даже с нуля, чем исправлять чужое или выискивать ошибки. Подключить искусственный интеллект к поиску ошибок в программах — это сильнее, чем научить его писать программы. Фактически программы можно будет наделять возможностью к «самовосстановлению» подобно герою комиксов Marvel, в честь которого и назвали этот проект.

Представленный BioBootloader скрипт, который доступен на GitHub, помогает искать ошибки в программах на Python. Но этот же подход можно реализовать для поиска ошибок в программах, написанных на других языках. Для практического использования «Росомахи» необходим ключ OpenAI API для моделей GPT-3.5 или GPT-4, за использование которых взимается плата. Сейчас API GPT 3.5 открыт для всех, у кого есть учетная запись OpenAI, хотя доступ к GPT-4 пока ограничен.

«Он [скрипт] запускает его [код], видит сбой, но затем идёт и разговаривает с GPT-4, чтобы попытаться выяснить, как это исправить, — рассказал разработчик. — GPT-4 возвращает объяснение ошибок программы, показывает изменения, которые он пытается внести, а затем снова запускает программу. Увидев новые ошибки, GPT-4 снова исправляет код, после чего он запускается правильно. В итоге исходный файл Python содержит изменения, добавленные GPT-4».

Принадлежащая Microsoft платформа GitHub представила обновлённую версию ассистента Copilot X, предназначенную для оказания расширенной помощи программисту — теперь здесь есть функция чат-бота и голосовой ввод.

Источник изображения: github.blog

Программист может обращаться к Copilot X в случае затруднений, без необходимости просить помощи на профильных ресурсах — система подсказывает, как выполнять те или иные задачи при написании кода. Глава GitHub Томас Домке (Thomas Dohmke) привёл пример: Copilot X рассказала, как можно написать игру «Змейка» на Python. В окне чата система подсказывает, для чего предназначены те или иные фрагменты кода, предлагает способы его тестирования и исправления ошибок.

GitHub впервые рассказала о Copilot в 2021 году, а вышла платформа лишь в следующем году. Тогда это был инструмент, автоматически дописывающий отдельные строки кода, и он обрёл популярность среди сотни тысяч разработчиков. Сегодня название системы распространилось на широкий спектр прочих продуктов Microsoft от офисных программ до компонентов безопасности.

В новой версии ассистент программиста получил поддержку последней версии языковой модели GPT-4, однако она потребовалась не для всех компонентов: GitHub хочет использовать разные модели для разных задач. Функция автозавершения строки останется на предыдущей версии, потому что для её работы больше важна скорость, чем точность. А возможности GPT-4 нашли применение в новом чат-боте, где они более уместны. Для подключения Copilot X программистам придётся зарегистрироваться в списке ожидания — общедоступным инструмент пока не стал.

Энтузиаст по имени Андреас Эриксен (Andreas Eriksen) собрал «устройство в формфакторе ноутбука», способное, по его собственным оценкам, проработать два года без подзарядки. Компьютер PotatoP сочетает компоненты с чрезвычайно низким потреблением энергии, аккумулятор на 12 000 мА·ч и небольшую солнечную панель.

Источник изображений: hackaday.io

Создателя PotatoP всегда раздражало, что его ноутбук разряжается слишком быстро, а для «небольших проектов по программированию», в которых он применяется, мощные компоненты не требуются. Для стоящих перед Андреасом задач нужен компьютер с чрезвычайно низким энергопотреблением, чётким экраном, а также удобной клавиатурой.

В качестве «материнской платы» используется платформа SparkFun RedBoard Artemis ATP на базе SoC Ambiq Apollo3 — она «устанавливает новый стандарт энергоэффективности для устройств с питанием от батареи». Её процессор Arm Cortex-M4F работает на тактовой частоте до 96 МГц, потребляя менее 6 мкА на 1 МГц. Объем оперативной памяти составляет 384 Кбайт, накопитель имеет ёмкость 1 Мбайт, кроме того, здесь есть широкий набор интерфейсов и портов для подключения внешних устройств.

Дополнительным залогом успеха PotatoP стал Sharp Memory in Pixel LS044Q7DH01 — монохромный дисплей с разрешением 320 × 240 пикселей и диагональю 4,4 дюйма. Автор проекта говорит, что не отказался бы от более крупной версии экрана, если он окажется таким же экономным — здесь нет подсветки, но это не мешает читаемости. Наконец, господин Эриксен не пожалел недешёвой профессиональной клавиатуры Happy Hacking Keyboard Lite 2.

Программист работает в среде Lisp (uLisp), и, по его мнению, он смог создать для себя максимально комфортные условия. Останавливаться на достигнутом автор не хочет — он оптимизирует систему для дальнейшего снижения энергопотребления и подумывает об установке дополнительных солнечных батарей, чтобы продлить время автономной работы своего «ноутбука» PotatoP до бесконечности.

Яндекс Практикум предлагает курсы по 10 направлениям для разработчиков, тестировщиков и девопсов, которые хотят освоить новые стеки и технологии, чтобы брать более интересные задачи.

Преимущества обучения в Яндекс Практикуме

Это упор на практику, которая занимает 60–80 % всего процесса обучения, более 100 часов.

Курсы от Яндекс Практикума создаются разработчиками и регулярно актуализируются: студенты получают самую свежую информацию и инструменты, а также обратную связь от менторов и наставников. Вы экономите своё время и осваиваете то, что реально пригодится в работе и поможет вырасти.

Менторы и наставники на всех курсах — тимлиды и опытные senior-разработчики «Яндекса» и других IT- и финтех-компаний. Они делятся своим опытом и помогают найти ответы на сложные вопросы, чтобы в реальной работе такие задачи не вызывали сложностей. Код-ревьюеры дают подробную обратную связь по работам студентов.

Карьерный центр Яндекс Практикума консультирует студентов по вопросам, связанным с профессиональным развитием: как обсудить с руководителем проекта повышение в должности и/или заработной плате, пересмотр рабочих обязанностей, делегирование рутинных задач. Студентов обучают грамотно составлять резюме, откликаться на вакансии и уверенно проходить собеседования.

Курсы для разработчиков и тестировщиков от Яндекс Практикума

Яндекс Практикум предлагает обучение по следующим направлениям:

Алгоритмы и структуры данных — вы сможете быстрее писать чистый код, видеть разные варианты решения задачи и сравнивать их по эффективности. Практика проходит в «Яндекс.Контесте» на удобном для вас языке: Python, Java, C++, JavaScript, Go или C#. В программе курса также — пробное алгоритмическое интервью.

Мидл python-разработчик — продвинутый курс: вы получите углубленные знания технологий, которые используются в бэкенд-разработке на Python. Узнаете, как решать сложные задачи с хранилищами данных, работать с синхронными и асинхронными фреймворками, проектировать лаконичную архитектуру.

Разработчик С++ — курс для тех, кто хочет участвовать в создании сложных IT-продуктов — от беспилотных автомобилей до видеоигр. В начале вы сможете бесплатно познакомиться с основами языка и научиться писать простые программы на С++.

Автоматизатор тестирования на Java — курс для тех, кто уже работает в ручном тестировании. Поможем вам пройти путь от простых программ на Java до покрытия автотестами сложного сервиса и автоматизации рабочих задач.

DevOps для эксплуатации и разработки — освоите практики и инструменты DevOps для быстрых релизов с настраиваемой стабильной инфраструктурой. В начале обучения — бесплатный вводный тест.

Продвинутый Go-разработчик — прокачаете навыки, которые понадобятся каждому, кто пишет на Go. На выходе сможете самостоятельно выполнять задачи Go-разработчика уровня мидл. Для старта нужно знать основы бэкенд-разработки и языка Go.

Мидл фронтенд-разработчик — продвинутая программа обучения для разработчиков, которые уверенно чувствуют себя с HTML, CSS и JavaScript, имеют опыт работы с одним из фреймворков. Вы систематизируете подход к решению рабочих задач и станете более уверенным в своих компетенциях.

React-разработчик — интенсив для погружения в экосистему React: вы научитесь создавать приложения на React и использовать дополнительные инструменты: Redux, TypeScript, Jest. Подойдёт тем, кто умеет верстать и знает основы JavaScript.

Тестирование веб-приложений на Python — курс для тех, кто хочет углубиться в Python: вы поработаете с Python, Selenium WebDriver и Allure, узнаете, как составлять отчёты о результатах тестирования и писать автотесты для веб-приложений.

Перед стартом любого курса будущих студентов ждёт бесплатное тестирование. Тест поможет определить исходный уровень знаний (точку А) и подобрать программу обучения, соответствующую реальному профессиональному опыту.

Сделать это вы можете уже сейчас по ссылке.

Принадлежащая Microsoft компания GitHub объявила, что Copilot for Business, корпоративная версии ИИ-помощника по написанию программного кода, стала общедоступной за $19 в месяц. По сравнению со стандартной Copilot, версия для корпоративного использования предложит ряд дополнительных функций.

Источник изображения: fancycrave1 / pixabay.com

«Это фактически завершает нашу историю о Copilot версии 1. Мы объявили о запуске программы предварительной оценки в июне 2021 года. Кажется, что это было много лет назад. Прошлым летом появилась общедоступная версия. Теперь мы готовы развернуть его для организаций, компаний, команд, предприятий — практически для всех. Фактически, у нас уже есть более 400 организаций, которые используют Copilot for Business на момент запуска, и мы видим огромный интерес», — прокомментировал данный вопрос генеральный директор GitHub Томас Домке (Thomas Dohmke).

В дополнение к этому разработчики объявили, что Copilot получил поддержку соединения через прокси, в том числе с самоподписанными сертификатами. Также было объявлено, что Copilot теперь работает на улучшенной ИИ-модели от Open AI. По мере развития ИИ-помощника он получает новые возможности. Одной из них стала функция «заполнение середины», когда алгоритм не просто завершает строку кода, но также может добавить код в её середину. Для этого Copilot потребуется изучить не только код, над которым идёт работа, но также связанные с ним другие файлы, с которыми осуществляется взаимодействие.

Источник изображения: GitHub

В последнем обновлении Copilot получил возможность обнаружения распространённых уязвимостей в программном коде, который ИИ-помощник предлагает пользователю. В случае обнаружения небезопасных вариантов Copilot предложит добавить более надёжный код. Разработчики продолжают работать над повышением скорости обработки запросов, поступающих в Copilot. В GitHub ожидают, что в скором времени Copilot сможет генерировать до 80 % кода разработчика. На данный момент возможности алгоритма ограничены примерно 46 % кода для всех языков программирования и 61 % — для Java.

Когда разработчик слышит о предстоящей конференции по его специальности, чаще всего возникает вопрос «не поучаствовать ли мне в ней». Но есть и другой вариант: «не выступить ли мне на ней».

Зачем? Причин может быть много. Когда готовишься объяснять тему другим, в процессе сам лучше её понимаешь. А вопросы слушателей после доклада помогают погрузиться ещё глубже и увидеть её с других ракурсов. Также доклады помогают и познакомиться с теми, кому близки сходные темы, и зарекомендовать себя / компанию в профессиональном сообществе.

И для многих специалистов, которым интересно делиться знаниями с сообществом, сейчас самое время задаться этим вопросом — у пяти конференций от JUG Ru Group открыт приём заявок на доклады:

• JPoint — Java-разработка
• Heisenbug — тестирование
• Mobius — мобильная разработка
• HolyJS — JavaScript
• C++ Russia — разработка на C++

Все эти конференции пройдут весной (апрель–май, онлайн–часть + офлайн в Москве). А поскольку подготовка доклада требует времени, заявки стоит отправлять сейчас, чтобы успеть до весны сделать хороший материал.

Тем, кто ранее ещё не выступал с докладами, зачастую непонятно «точно ли известные мне темы подходят для конференции». Но лучший способ выяснить это — не гадать в одиночку, а подать заявку: за этим следует её обсуждение с программным комитетом, и вот там ситуация проясняется.

Получивший широкую популярность ИИ-бот ChatGPT способен выполнять самые разные задачи. Исследователям из университета им. Иоганна Гутенберга в Майнце (Германия) совместно с коллегами из Университетского колледжа Лондона удалось задействовать сервис для поиска и устранения ошибок в программном коде.

Источник изображения: Arif Riyanto/unsplash.com

Исследователи предоставили 40 фрагментов кода, содержащих ошибки, четырём системам ChatGPT, Codex, CoCoNut и Standard APR, предназначенным для устранения багов. По сути, они буквально спросили: «Что не так с этим кодом?» и вставили фрагмент кода в окно чата.

В первый раз ChatGPT проявил себя не хуже других напичканных интеллектом систем. Он устранил 19 проблем из 40, Codex — 21 из 40, CoCoNut — 19, а APR — только 7. Проведённые оценочные тесты показали, что ответы ChatGPT во многом дублируют решения, предлагаемые Codex, в чём нет ничего удивительного, поскольку ChatGPT и Codex относятся к одному семейству языковых моделей.

Впрочем, в дальнейшем ChatGPT продемонстрировал свои преимущества. Поскольку бот позволяет вести с ним обсуждение и вносить уточнения после получения первоначального ответа, в результате исследователям удалось решить 31 из 40 задач, намного больше, чем способны были сделать другие системы аналогичного назначения. Более того, выяснилось, что ChatGPT может решать задачи быстрее конкурентов, причём он давал пользователю разные варианты ответов на одну и ту же задачу. Если сначала на один из запросов бот требовал больше информации, то после некоторого количества попыток он уверенно приводил ответ на тот же вопрос.

Источник изображения: Dominik Sobania, Martin Briesch, Carol Hanna, Justyna Petke

По мнению экспертов, успех проведённого исследования потенциально способен привести к модификации существующего рынка ИИ-решений совокупной стоимостью $600 млн, предназначенных для помощи инженерам в поиске и устранении недоработок в программном коде. Платформы вроде Sentry уже стали распространённым инструментов среди программистов, намного ускоряя рабочие процессы.

Программисты, использующие системы искусственного интеллекта (ИИ) при разработке кода, с большей вероятностью получают приложения, которые подвержены уязвимостям, пишет TechCrunch со ссылкой на исследование учёных Стэнфордского университета. По их мнению, к системам генерации кода следует относиться с осторожностью.

Источник изображения: Christopher Gower / unsplash.com

Базой для исследования стала система генерации кода на основе ИИ Codex, разработанная лабораторией OpenAI. В проекте приняли участие 47 разработчиков — от студентов бакалавриата до специалистов с многолетним опытом. Они пользовались платформой Codex для решения задач, связанных с безопасностью, а языками программирования в рамках исследования были Python, JavaScript и C.

Как выяснилось, применявшие в работе систему Codex программисты чаще предлагали неправильные и небезопасные решения по сравнению с контрольной группой. Более того, свои решения они считали более совершенными с позиции кибербезопасности относительно решений специалистов контрольной группы.

Авторы исследования подчёркивают, что не имеют намерений настроить сообщество против Codex и других ИИ-систем генерации кода, но их лучше применять в решении задач, не связанных с высоким риском. В качестве решения проблемы учёные предлагают создать механизмы анализа предлагаемого ИИ кода, а также усилить настройки безопасности по умолчанию в криптографических библиотеках.

Кроме того, генераторы часто обучаются на разработках с ограниченной лицензией, а впоследствии предлагают решения, например, из кодовой базы Quake или учебников по JavaScript — создаваемый с их участием код может стать источником проблем в отношении авторского права. Механизм защиты от подобного плагиата попытались реализовать на платформе GitHub Copilot, но стало только хуже: система начала выдавать большие фрагменты чужого кода, включая сведения об авторах и даже тексты лицензий.