За последнюю неделю произошли сразу несколько крупных технологических инцидентов: американцы на время лишились доступа к своим банковским счетам, пассажирские самолёты перестали летать, и даже электронная почта прекратила работать. Пока все эти инциденты являются лишь стечением обстоятельств — масштабный киберпокалипсис ещё не наступил, успокаивают эксперты.
Источник изображения: Zan Lazarevic / unsplash.com
Минувшая неделя выдалась богатой на киберинциденты, подтверждают данные платформы Downdetector, но если взять выборку за 30 дней, то статистических аномалий не наблюдается. Тем не менее, они имеют прямую связь с искусственным интеллектом, указали в органах национальной безопасности США и на Уолл-стрит. Массовые сбои в работе систем были вызваны попытками исправить ошибки в ПО, обнаруженные ИИ-системами. Крупные организации вступили в тотальную гонку, чтобы избежать «баггедона» — сценария, при котором хакеры с помощью ИИ находят и эксплуатируют уязвимости в интернете, прежде чем их успевают исправить. Этот процесс и стал причиной нестабильности.
На прошлой неделе Microsoft более суток не могла устранить масштабный сбой в работе своих систем; Федеральное управление гражданской авиации (FAA) США из-за перегрузки на маршрутизаторах на несколько часов приостановило вылеты по всей стране; а в понедельник, 16 ноября, некоторые американцы лишились доступа к банковским услугам JPMorgan Chase. Министр внутренней безопасности Маркуэйн Маллин (Markwayne Mullin) высказал предположение, что сбоям могли способствовать системы ИИ, которые могут писать и изменять код. Доказательств этому, однако, обнаружить не удалось: в большинстве случаев сбои объясняются обновлениями ПО, из-за которых небольшие технические проблемы перерастали в масштабные.
В JPMorgan Chase проблему связали с ошибкой ПО, из-за которой задерживались транзакции с участием других банков; в FAA заявили, что поток сетевого трафика дестабилизировал устаревшее оборудование. Microsoft рассказала о возникшей несколько месяцев назад ошибке, увеличении трафика и снижении мощности серверов. Организации по всему миру стремятся обновлять ПО, чтобы повысить надёжность систем, учитывая, что ИИ-модели способны находить и эксплуатировать уязвимости с высокой скоростью.
Эта гонка, указывают эксперты, ускорила значительную часть работы по написанию кода, и данный процесс может привести к увеличению простоев, неполадок в работе и неожиданных сбоев. ИИ также значительно увеличил скорость, с которой инженеры пишут и улучшают ПО, что приводит к появлению новых узких мест при проверках безопасности и надёжности нового кода.
За семь дней с 9 по 16 ноября сервис Downdetector зафиксировал почти 6 млн сообщений о проблемах в США, и это самый высокий недельный показатель за год. Но за 30 дней произошли всего три крупных сбоя по сравнению с обычными пятью.
Источник:


MWC 2018
2018
Computex
IFA 2018






