ИИ напакостил: Amazon созвала экстренное совещание из-за сбоев, вызванных изменениями в коде «с участием генеративного ИИ»

Amazon не только является одним из крупнейших облачных провайдеров, но и одной из старейших и крупнейших площадок для интернет-торговли. На прошлой неделе в её работе произошли сбои, которые могли быть вызваны применением генеративного искусственного интеллекта. Данные проблемы стали темой служебного совещания представителей компании, как сообщает CNBC.

По данным источника, во внутренней рассылке Amazon уведомил сотрудников, что изменения в производственных процессах, имеющие отношение к использованию генеративного искусственного интеллекта, считаются основным источником сбоев на прошлой неделе. Последующая редакция документа подобные формулировки уже не использовала. Во вторник состоялось совещание с участием ведущих специалистов Amazon, которые разбирались в причинах проблем с работой сервисов компании.

По информации CNBC, по меньшей мере один из сбоев в работе сайта и приложения Amazon на прошлой неделе мог быть вызван использованием генеративного искусственного интеллекта при разработке программного кода. Отвечающий за функционирование сайта старший вице-президент Amazon Дейв Тредуэлл (Dave Treadwell) заявил подчинённым, что стабильность работы сайта и сопутствующей инфраструктуры в последнее время не была безупречной. Всего на прошлой неделе были зафиксированы четыре инцидента, связанных с работой критически важной для компании инфраструктуры.

Представители Amazon заявили CNBC, что подобные собрания являются обычной практикой и проводятся еженедельно. В повестку дня очередного собрания включены инциденты с недоступностью сайта торговой площадки и мобильного приложения. Первоначально в перечень вопросов для рассмотрения на собрании были внесены некие последствия применения генеративного ИИ, но в последующей редакции документа упоминания об этом нюансе исчезли. Представители Amazon поспешили пояснить CNBC, что инциденты на прошлой неделе только в одном случае имели отношение к ИИ, но не к последствиям написания программного кода с его помощью.

В прошлый четверг на протяжении примерно шести часов некоторые пользователи интернет-портала Amazon и фирменного приложения не могли завершить процесс покупки товаров, просмотреть информацию из личной учётной записи или не видели цены на товары. Первоначально компания заявила, что проблемы вызваны распространением некоторых обновлений программного обеспечения. Тредуэлл в своём обращении к подчинённым признал, что в вопросах применения генеративного ИИ предусмотрены не все меры предосторожности. Компания собирается усилить контроль за рецензированием программных изменений, инициированных искусственным интеллектом. Данные меры, как ожидается, будут носить временный характер. Подчёркивается, что недавние сбои в работе торговой инфраструктуры Amazon не имели никакого отношения к деятельности подразделения AWS. Последнее, как принято считать, ещё в декабре столкнулось с проблемами в работе инфраструктуры после того, как разрешило применить программные изменения, предложенные ИИ-агентом Kiro. Тогда компания также отрицала, что проблемы вызваны ошибками в работе ИИ, предпочитая винить человеческий фактор.