Сегодня 18 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Исследование Microsoft показало, что ИИ пока «так себе» исправляет ошибки в программном коде

Новое исследование подразделения Microsoft Research выявило, что несмотря на то, что ИИ помогает разработчикам в написании кода, даже передовые модели OpenAI (o1) и Anthropic (Claude 3.7 Sonnet) справляются с исправлением ошибок не более чем в половине случаев. Тестирование проводилось на базе лучшего бенчмарка SWE-bench, который измеряет умение ИИ-систем создавать программный код.

 Источник изображения: сгенерировано AI

Источник изображения: сгенерировано AI

В ходе эксперимента ИИ-агенты пытались решить 300 задач по устранению ошибок в коде. Лидером стала модель Claude 3.7 Sonnet, которая выполнила задание с успешностью на 48,4 %, второе место заняла OpenAI o1 (30,2 %), третье — o3-mini (22,1 %). Однако, как видно, даже эти цифры далеки от уровня, которого можно было бы ожидать от опытных программистов-людей. Как поясняет TechCrunch, основная проблема заключается в том, что искусственный интеллект пока плохо понимает, как использовать доступные инструменты и интерпретировать ошибки.

По мнению авторов исследования, ключевым препятствием остаётся дефицит данных для обучения моделей. «Мы твёрдо верим, что обучение или дообучение может сделать их лучшими интерактивными отладчиками, — пишут они. — Однако для этого нужны специализированные данные, например, цепочка записей всех процессов взаимодействия людей с ИИ-отладчиками».

Сейчас таких данных недостаточно, что ограничивает возможности моделей. Например, популярный инструмент Devin стартапа Cognition Labs смог по этой причине справиться лишь с тремя из 20 тестов по кодированию. И хотя ИИ активно используется такими компаниями как Google, по словам генерального директора Сундара Пичаи (Sundar Pichai), четверть кода, который создаётся с помощью искусственного интеллекта, может даже наоборот добавлять ошибки.

Технологические лидеры скептически относятся к полной автоматизации профессии программиста. Билл Гейтс (Bill Gates) уверен, что программирование как профессия, конечно, никуда не исчезнет. Аналогичного мнения придерживаются генеральный директор Replit Амджад Масад (Amjad Masad), глава Okta Тодд Маккиннон (Todd McKinnon) и руководитель IBM Арвинд Кришна (Arvind Krishna).

Несмотря на очевидные проблемы, интерес к ИИ-инструментам для разработки продолжает расти. Инвесторы видят в них потенциал для повышения эффективности, однако ведущие разработчики считают, что доверять ИИ полностью пока рановато.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ от OpenAI обошёл все команды из людей, а заодно и Google Deepmind, на чемпионате по программированию 2 ч.
Похоже, в Cyberpunk 2 всё-таки появится мультиплеер — вакансия выдала планы CD Projekt Red 3 ч.
Google превращает Discover в «новостную соцсеть» с подписками и постами из X и Instagram 3 ч.
Reddit готовит новый контракт с Google по интеграции с ИИ-сервисами 5 ч.
Даже авторы сценария The Wolf Among Us 2 не знают, что происходит с игрой 14 ч.
Nothing анонсировала OS 4.0 — интерфейс стал проще, а камера умнее 15 ч.
Paradox добавила возмутившие фанатов платные кланы в стандартное издание Vampire: The Masquerade — Bloodlines 2 и анонсировала два сюжетных DLC 16 ч.
Жертвы утечки данных Facebook через Cambridge Analytica начали получать выплаты от Цукерберга 16 ч.
В мессенджере Max начинаются «открытые» тесты каналов — создавать их разрешат блогерам из реестра РКН 17 ч.
В России выплатили первую зарплату в цифровых рублях 18 ч.
Стартап Groq привлёк на развитие $750 млн, получив оценку в $6,9 млрд 31 мин.
Dell представила ИИ-сервер PowerEdge XE7740 с ускорителями Intel Gaudi 3 33 мин.
Представлены умные очки Ray-Ban Meta Gen 2 с удвоенным временем автономной работы 38 мин.
Meta представила умные AR-очки Ray-Ban Display со встроенным дисплеем и браслетом в придачу 40 мин.
Logitech анонсировала игровую гарнитуру Astro A20 X, которая умеет работать с двумя устройствами сразу 48 мин.
За июль роботакси Tesla попали в три ДТП, но компания постаралась замести следы 2 ч.
Huawei представит четыре новых ИИ-ускорителя Ascend за три года, чтобы догнать и перегнать Nvidia 2 ч.
Вы нам — SMR, мы вам — ядерное топливо: американские и британские компании подписали целый ряд соглашению по развитию АЭС для питания ЦОД 3 ч.
Apple рассматривает возможность организации сборки складного iPhone на Тайване и в Индии 3 ч.
За пять лет количество расследований в сфере промышленного шпионажа на Тайване выросло на 31 % 4 ч.