Сегодня 19 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Mozilla запустила разработку открытого ИИ, который будет заслуживать доверия

Некоммерческая организация Mozilla Foundation, ответственная за разработку браузера Firefox, запустила новый проект по разработке системы искусственного интеллекта — это будет «заслуживающая доверия» платформа с открытым исходным кодом.

 Источник изображения: mozilla.ai

Источник изображения: mozilla.ai

Глава стартапа Mozilla.ai Марк Сурман (Mark Surman) уточнил, что в последние месяцы появилось множество ИИ-моделей, которые, хотя и поражают своими широкими возможностями, но представляют определённую угрозу для всего мира. Ставший отраслевым стандартом OpenAI ChatGPT может писать вредоносное ПО, выявлять уязвимости в открытом исходном коде и создавать фишинговые сайты, копирующие внешний вид проектов с высокой посещаемостью. Предназначенный для создания изображений ИИ Stable Diffusion используется для генерации картинок непристойного содержания, дипфейков и сцен насилия. Создатели этих моделей уверяют, что предпринимают какие-то шаги по пресечению злоупотреблений, но в Mozilla уверены, что этих усилий недостаточно.

Mozilla Foundation выделила $30 млн на создание стартапа Mozilla.ai. Господин Сурман охарактеризовал новую компанию как организацию, сочетающую черты исследовательской фирмы и сообщества. На начальном этапе будет набрана команда из 25 человек, в которую войдут инженеры, учёные и менеджеры по продуктам; но в итоге планируется создание целой сети связанных компаний и исследовательских групп — стартапов и академических учреждений, разделяющих ценности проекта. В Mozilla.ai считают, что на рынке есть спрос на безопасные ИИ-системы, и технологическая отрасль сможет использовать наработки стартапа как стандартный набор инструментов по аналогии с Linux и Apache. Ожидается также, что поддержку проекту будут оказывать как научные организации, так и коммерческие компании.

При этом Mozilla.ai не является некоммерческой организацией — она придерживается определённых этических принципов, но нацелена на расширение сферы деятельности. Такая модель обеспечивает ей определённую гибкость и позволяет использовать опыт других проектов. К примеру, OpenAI в 2015 году была создана как некоммерческая организация, но она была вынуждена кардинально сменить стратегию, чтобы иметь возможность продолжать исследования, и это тревожный прецедент.

В ближайшей перспективе Mozilla.ai планирует разработать систему, позволяющую пользователям уточнять источники ответов, которые даёт ИИ, а также систему, которая обеспечит пользователям контроль над алгоритмами рекомендации контента — теми, что работают на YouTube, в Twitter и TikTok. Быстрого результата разработчики не обещают, но первые продукты могут появиться уже до конца года.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Windows 11 станет умнее: Microsoft тестирует ИИ-поиск по файлам 27 мин.
Слияние вместо продажи: Perplexity AI хочет спасти TikTok в США 30 мин.
Новая статья: Battle Shapers — боязнь амбиций. Рецензия 6 ч.
Новая статья: Gamesblender № 709: анонс Nintendo Switch 2, кризис Ubisoft и вампирская RPG от авторов «Ведьмака» 6 ч.
TikTok предупредил, что завтра прекратит работу в США, если Байден не вмешается 17 ч.
Instagram добавил новые функции в Reels в преддверии блокировки TikTok в США 19 ч.
Новая статья: Marvel Rivals — нужна ли теперь Overwatch? Рецензия 18-01 00:03
Тактическая стратегия по «Звёздным войнам» от бывших разработчиков XCOM скоро выйдет из тени — инсайдер рассказал, когда ждать анонс 17-01 23:31
Ремастер Tomb Raider: The Angel of Darkness для сборника Tomb Raider IV-VI Remastered раскроет потенциал худшей игры серии — подробности улучшений 17-01 22:06
Первый «геймплей» Virtua Fighter 6 оказался точной копией боевой сцены из фильма «Драконы навсегда» с Джеки Чаном 17-01 20:52
ASRock представила индустриальные мини-ПК и материнские платы на базе Intel Arrow Lake-H и AMD Ryzen 300 AI 7 ч.
CoreWeave поставит IBM ИИ-суперкомпьютер на базе NVIDIA GB200 NVL72 для обучения моделей Granite 7 ч.
Потенциальный министр транспорта США пообещал разобраться со штрафами SpaceX и ликвидировать космическую бюрократию 9 ч.
Телевизоры Samsung получат полезные ИИ-функции благодаря интеграции с нейросетями OpenAI 12 ч.
Qualcomm начала выпускать неполноценные Snapdragon 8 Elite 12 ч.
Астрономы получили наиболее детальное инфракрасное изображение активного ядра галактики 15 ч.
Новую тяжёлую европейскую ракету Ariane 6 улучшили — следующий пуск состоится в феврале 17 ч.
Российский аналог Starlink решено строить на отечественной электронике — проект «Бюро 1440» может затянуться 17 ч.
Amazon прекратила доставлять товары дронами после инцидента на испытательном полигоне 18 ч.
Во Франции создали крошечного робота-хирурга, который очень аккуратно покопается в мозгах 18 ч.