Проект MDN Web Docs (ранее Mozilla Developer Network) представляет собой репозиторий документации для веб-разработчиков, помогающей обучаться созданию сайтов и реализовать различные сетевые проекты. Хотя сайт считается надёжным источником информации, подключение к нему компанией Mozilla ИИ-инструмента AI Help привело к настоящему скандалу.

Источник изображения: Alexandra_Koch/unsplash.com

Инструмент AI Help на основе генеративного ИИ разработан Mozilla для того, чтобы стать «компаньоном для решения проблем» веб-разработчиков, ищущих ответы в MDN Web Docs. На сайте имеется информация о CSS, HTML, JavaScript и других веб-технологиях. До недавних пор он был авторитетным ресурсом, информацию на который вносили как волонтёры, так и корпорации вроде Microsoft и Google и, конечно, сама Mozilla. MDN также содержит веб-документацию Samsung после того, как южнокорейская компания решила отключить собственные проекты — агрегаторы соответствующей документации. Как выяснилось, попытка Mozilla внести изменение в виде ИИ-инструмента вызвала негативную реакцию пользователей.

По данным представителей проекта MDN, AI Help должен был оптимизировать поиск информации разработчиками, сделав его «быстрым и лёгким». Известно, что используется API компании OpenAI для того, чтобы ИИ выдавал подходящую информацию из репозитория в ответ на запросы. На деле всё оказалось намного хуже.

В посте на GitHub в разделе проекта Yari, на основе которого построен сервис MDN, имеется немало отзывов, касающихся функции AI Help. Один из пользователей получил неверный ответ на вопрос, после чего опубликовал описание ситуации на GitHub — пост сопровождался многочисленными гневными отзывами, в которых новая функция называлась «хуже, чем бесполезной», подчёркивалось, что человекоподобные ответы «могут быть случайно верными, но могут содержать и убедительные фальшивки».

Многие комментаторы признали, что новинка наносит больше ущерба, чем способна принести пользы, и признали, что ИИ страдает галлюцинациями, характерными для LLM-решений. В итоге один из ключевых разработчиков-добровольцев MDN под ником sideshowbarker пообещал «поднять» проблему в самой Mozilla «настолько высоко, насколько сможет». Неизвестно, удалось ли ему преуспеть в этом, но сообщается, что кнопка AI Help более недоступна.

С начала сентября текущего года в России отмечены многочисленные сбои в работе сервисов Google, а также проблемы с доступом к сайтам компании, ошибки при попытках воспользоваться магазином расширений Chrome, маркетплейсом Google Pay и другими ресурсами IT-гиганта.

Источник изображения: Google

Согласно представленным ресурсом «Хабр» сведениям, российские пользователи сообщают о ряде проблем с входящими в экосистему Google сервисами:

• отсутствует доступ к Google Play;
• сбрасывается соединение в браузере Chrome;
• не работает сайт chrome.google.com;
• не загружаются фото в веб-версии photos.google.com;
• не устанавливаются расширения в магазине приложений Chrome Web Store и не загружаются изображения;
• отсутствует доступ к ресурсам lh3.googleusercontent.com, h4.googleusercontent.com, lh5.googleusercontent.com и lh6.googleusercontent.com.

Источник изображения: Google

Сообщается также о ряде других проблем, а именно:

• в Google Play Games пропали значки игр;
• не загружается изображение профиля в любом из сервисов Google;
• не загружаются обложки в YouTube Music;
• не загружаются обои из интернета на телефонах Google Pixel;
• не отображаются картинки и фото в Jamboard и Google Photo;
• нестабильно работает сервис Google Docs.

Примечательно, что пользователи жалуются на разные проблемы. Сервисы, доступные у одних, у других могут оставаться нефункциональными. После возникновения проблем с Google Docs делались предположения о неудачных блокировках Роскомнадзором, но само ведомство не сообщало об ограничениях. Тем не менее, со 2 сентября отмечаются уже массовые сбои.

Как сообщает «Хабр», в Google занимаются изучением возникших проблем. По некоторым данным, от блокировки страдают клиенты провайдеров с установленными техническими средствами противодействия угрозам (ТСПУ). Единственным действенным средством борьбы со сбоями пока называется использование VPN.

Веб-разработчик Пэт Нидхэм (Pat Needham) случайно обратил внимание, что текст «And. And. And. And. And.» (пять раз английское «и», разделённое точками и без кавычек) вызывало сбой в работе текстового редактора Google Документы — достаточно было ввести этот текст и обновить страницу. Как выяснилось, схожая реакция наблюдалась и на другие служебные части речи в английском языке.

Источник изображения: support.google.com

Господин Нидхэм сообщил, что попытался воспроизвести ошибку под тремя учётными записями Google и всегда получал тот же результат. Более того, выяснилось, что ошибка была чувствительна к регистру: написание вроде «and. and. And. and. And.» сбоя не вызывала. Попытавшись разобраться с корнями проблемы, он воспользовался инструментами для разработчиков в браузере Google Chrome — ошибку выдавал POST-запрос на адрес, начинающийся с «https://docs.google.com/document/u/1/jserror» и содержащий текст «Caused by: TypeError: Cannot read properties of null (reading "C")».

О своём открытии он сообщил в сообществах техподдержки Google и Hacker News, поблагодарив подругу своей коллеги Элизы Каллахан (Eliza Callahan) — ошибка была обнаружена благодаря стихотворению в её романе. Члены сообществ заинтересовались нестандартным сбоем платформы и продолжили экспериментировать. Выяснилось, что ошибку вызывало разделённое точками пятикратное повторение и других английских слов, преимущественно служебных частей речи: «also, therefore, anyway, but, who, why, besides, however, although, moreover, firstly, secondly, thirdly, fourthly» (соответственно «также, следовательно, так или иначе, но, кто, почему, кроме того, однако, хотя, более того, во-первых, во-вторых, в-третьих, в-четвёртых»). Примечательно, что, начиная с «fifthly» («в-пятых») ошибка исчезала.

Заинтересовавшиеся сбоем специалисты уверены, что ошибка связана с системой проверки правописания — по их версии, она проявлялась только тогда, когда была проставлена опция «Предлагать грамматические исправления». Представители Google не раскрыли причин сбоя, но, по одной из предложенных сообществом гипотез, она была связана с некорректной обработкой регулярных выражений. Два дня назад компания всё-таки прокомментировала инцидент на форуме техподдержки, заверив, что ошибка исправлена.