Сегодня 06 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Mozilla запустила разработку открытого ИИ, который будет заслуживать доверия

Некоммерческая организация Mozilla Foundation, ответственная за разработку браузера Firefox, запустила новый проект по разработке системы искусственного интеллекта — это будет «заслуживающая доверия» платформа с открытым исходным кодом.

 Источник изображения: mozilla.ai

Источник изображения: mozilla.ai

Глава стартапа Mozilla.ai Марк Сурман (Mark Surman) уточнил, что в последние месяцы появилось множество ИИ-моделей, которые, хотя и поражают своими широкими возможностями, но представляют определённую угрозу для всего мира. Ставший отраслевым стандартом OpenAI ChatGPT может писать вредоносное ПО, выявлять уязвимости в открытом исходном коде и создавать фишинговые сайты, копирующие внешний вид проектов с высокой посещаемостью. Предназначенный для создания изображений ИИ Stable Diffusion используется для генерации картинок непристойного содержания, дипфейков и сцен насилия. Создатели этих моделей уверяют, что предпринимают какие-то шаги по пресечению злоупотреблений, но в Mozilla уверены, что этих усилий недостаточно.

Mozilla Foundation выделила $30 млн на создание стартапа Mozilla.ai. Господин Сурман охарактеризовал новую компанию как организацию, сочетающую черты исследовательской фирмы и сообщества. На начальном этапе будет набрана команда из 25 человек, в которую войдут инженеры, учёные и менеджеры по продуктам; но в итоге планируется создание целой сети связанных компаний и исследовательских групп — стартапов и академических учреждений, разделяющих ценности проекта. В Mozilla.ai считают, что на рынке есть спрос на безопасные ИИ-системы, и технологическая отрасль сможет использовать наработки стартапа как стандартный набор инструментов по аналогии с Linux и Apache. Ожидается также, что поддержку проекту будут оказывать как научные организации, так и коммерческие компании.

При этом Mozilla.ai не является некоммерческой организацией — она придерживается определённых этических принципов, но нацелена на расширение сферы деятельности. Такая модель обеспечивает ей определённую гибкость и позволяет использовать опыт других проектов. К примеру, OpenAI в 2015 году была создана как некоммерческая организация, но она была вынуждена кардинально сменить стратегию, чтобы иметь возможность продолжать исследования, и это тревожный прецедент.

В ближайшей перспективе Mozilla.ai планирует разработать систему, позволяющую пользователям уточнять источники ответов, которые даёт ИИ, а также систему, которая обеспечит пользователям контроль над алгоритмами рекомендации контента — теми, что работают на YouTube, в Twitter и TikTok. Быстрого результата разработчики не обещают, но первые продукты могут появиться уже до конца года.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новый Android-вредонос FireScam маскируется под мессенджер Telegram и крадёт данные пользователей 10 ч.
Два крупнейших фотостока в мире задумали слияние, но антимонопольщики могут помешать 05-01 01:23
Новая статья: Самые ожидаемые игры 2025 года 05-01 00:05
Гендиректор YouTube сделал ставку на ИИ и блогеров 04-01 13:28
Mozilla запустила расширение Orbit для Firefox для обобщения контента с помощью ИИ 04-01 09:03
Министерство юстиции США не считает нужным давать TikTok ещё один шанс сохранить американский бизнес 04-01 08:06
Власти США запретили продавать личные данные американцев в Россию и другие недружественные страны 04-01 07:06
Новая статья: Лучшие игры 2024 года: выбор читателей и редакции 04-01 00:03
Anthropic договорилась с музыкальными издателями по иску о незаконном пересказывании песен ИИ 03-01 17:10
Apple начала самовольно сканировать пользовательские фото на предмет достопримечательностей, но от этого можно отказаться 03-01 17:01
Новая статья: Итоги 2024 года: мониторы — всё ближе к народу 2 ч.
Стало известно, как будут выглядеть новые материнские платы MSI на чипсетах B860, B850 и B840 2 ч.
Китай освоил передачу спутниковой информации на Землю на скорости 100 Гбит/с с помощью лазера 15 ч.
Очки дополненной реальности RayNeo будут использовать ИИ-модели Alibaba 19 ч.
Imagination лишится гендира после скандала с передачей технологий в Китай 05-01 00:56
Microsoft инвестирует в 2025 финансовом году $80 млрд в создание ИИ ЦОД, больше половины — в объекты в США 05-01 00:00
Acer скоро представит портативные приставки Nitro Blaze 11 и Blaze 8 с большими экранами 04-01 18:45
BenQ показала самый быстрый монитор в мире — 600-герцевый Zowie XL2586X+ для киберспортсменов 04-01 16:24
Microsoft совместно с учёными США разработала экологичные облачные серверы GreenSKU, которые используют RAM и SSD из старых систем 04-01 15:21
Gigabyte анонсировала Aorus FO27Q5P — первый в мире монитор QD-OLED с частотой обновления 500 Гц и портом DisplayPort 2.1a 04-01 15:06
Включить темный режим