Apple ограничила приём сообщений о багах после волны «некачественных» отчётов, сгенерированных ИИ

Apple объявила о введении ограничения на количество поступающих в её службу безопасности сообщений об ошибках, которые исследователи могут направлять. Это связано с тем, что её система проверки оказалась перегруженной из-за роста «некачественных» отчётов, сгенерированных ИИ, которые могут содержать ложную информацию об угрозах безопасности в программном обеспечении, сообщает The New York Times.

В компании отметили, что применение ИИ позволило значительно увеличить количество обнаруженных реальных уязвимостей, но это также вызвало поток «некачественных» сообщений от любителей-энтузиастов, применяющих ИИ для выявления багов.

«В связи с растущим объёмом сообщений о нарушениях безопасности, сгенерированных ИИ в отрасли, мы скорректировали количество новых отчётов, которые исследователь может открыть одновременно», — сообщила Apple, добавив, что исследователи могут запросить увеличение этого лимита в любое время, чтобы гарантировать, что критически важные отчёты дойдут до групп безопасности.

Также был введён 30-дневный период ожидания для отправки сообщений через внутренний портал безопасности. Как пояснила компания, все поступающие сообщения о выявленных багах требуют проверки человеком, хотя для их сортировки используется ИИ.

Итальянский стартап в области кибербезопасности Bynario отметил, что из-за введённых ограничений не смог оперативно передать Apple отчёт о выявленных уязвимостях, одна из которых относится к цепочке эксплойтов повышения привилегий, которая может позволить злоумышленнику получить полный контроль над macOS. В Bynario утверждают, что с помощью OpenAI ChatGPT всего за три недели выявили более 50 ошибок в последней версии операционной системы.

Apple сообщила The New York Times, что что рассматривает отправленные отчёты Bynario. Компания тоже использует ИИ для повышения эффективности программного обеспечения. По словам Apple, ИИ-инструменты от Anthropic и OpenAI помогли выявить ряд уязвимостей в её софте. Благодаря использованию ИИ последние обновления ПО Apple включают примерно в пять раз больше исправлений безопасности, чем в предыдущих релизах.