Mozilla запустила разработку открытого ИИ, который будет заслуживать доверия

Некоммерческая организация Mozilla Foundation, ответственная за разработку браузера Firefox, запустила новый проект по разработке системы искусственного интеллекта — это будет «заслуживающая доверия» платформа с открытым исходным кодом.

Глава стартапа Mozilla.ai Марк Сурман (Mark Surman) уточнил, что в последние месяцы появилось множество ИИ-моделей, которые, хотя и поражают своими широкими возможностями, но представляют определённую угрозу для всего мира. Ставший отраслевым стандартом OpenAI ChatGPT может писать вредоносное ПО, выявлять уязвимости в открытом исходном коде и создавать фишинговые сайты, копирующие внешний вид проектов с высокой посещаемостью. Предназначенный для создания изображений ИИ Stable Diffusion используется для генерации картинок непристойного содержания, дипфейков и сцен насилия. Создатели этих моделей уверяют, что предпринимают какие-то шаги по пресечению злоупотреблений, но в Mozilla уверены, что этих усилий недостаточно.

Mozilla Foundation выделила $30 млн на создание стартапа Mozilla.ai. Господин Сурман охарактеризовал новую компанию как организацию, сочетающую черты исследовательской фирмы и сообщества. На начальном этапе будет набрана команда из 25 человек, в которую войдут инженеры, учёные и менеджеры по продуктам; но в итоге планируется создание целой сети связанных компаний и исследовательских групп — стартапов и академических учреждений, разделяющих ценности проекта. В Mozilla.ai считают, что на рынке есть спрос на безопасные ИИ-системы, и технологическая отрасль сможет использовать наработки стартапа как стандартный набор инструментов по аналогии с Linux и Apache. Ожидается также, что поддержку проекту будут оказывать как научные организации, так и коммерческие компании.

При этом Mozilla.ai не является некоммерческой организацией — она придерживается определённых этических принципов, но нацелена на расширение сферы деятельности. Такая модель обеспечивает ей определённую гибкость и позволяет использовать опыт других проектов. К примеру, OpenAI в 2015 году была создана как некоммерческая организация, но она была вынуждена кардинально сменить стратегию, чтобы иметь возможность продолжать исследования, и это тревожный прецедент.

В ближайшей перспективе Mozilla.ai планирует разработать систему, позволяющую пользователям уточнять источники ответов, которые даёт ИИ, а также систему, которая обеспечит пользователям контроль над алгоритмами рекомендации контента — теми, что работают на YouTube, в Twitter и TikTok. Быстрого результата разработчики не обещают, но первые продукты могут появиться уже до конца года.