Сегодня 16 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Meta✴ пообещала отменить выпуск моделей ИИ, которые сочтёт слишком опасными для человечества

Ранее гендиректор Meta✴ Марк Цукерберг (Mark Zuckerberg) пообещал, что сделает сильный искусственный интеллект (AGI), то есть не уступающий человеку, общедоступным. Но теперь в одном из определяющих политику документов компании перечисляются сценарии, при которых она может отменить выпуск передовой системы ИИ.

 Источник изображения: Christopher Burns / unsplash.com

Источник изображения: Christopher Burns / unsplash.com

В документе под названием «Основы организации передового ИИ» (Frontier AI Framework) компанией Meta✴ определяются два типа систем ИИ, которые представляются слишком рискованными для выпуска: системы «высокого риска» и «критического риска». Это системы, способные оказать гипотетическим злоумышленникам помощь в преодолении средств кибербезопасности, проведении химических и биологических атак. Разница в том, что системы «критического риска» способны привести к «катастрофическому результату, который невозможно смягчить в контексте развёртывания»; системы «высокого риска» также способны облегчить злоумышленникам провести атаку, но они менее надёжны, чем системы «критического риска».

Meta✴ приводит несколько гипотетических примеров таких атак, в том числе «полная автоматизированная компрометация окружения корпоративного масштаба, защищённого передовыми методами» и «разрастание высокоэффективного биологического оружия». Список приведённых в документе угроз не является исчерпывающим, отмечают в компании, — он включает лишь те позиции, которые считаются самыми неотложными и вероятными как результат непосредственной работы мощного ИИ. Системные угрозы классифицируются не на основе практических опытов, а с учётом данных внутренних и внешних исследований, утверждённых лицами, принимающими решения: в Meta✴ не уверены, что научные средства «достаточно надёжны, чтобы предоставить окончательные количественные показатели», определяющие степень угрозы, которую представляет система.

Если Meta✴ решит, что одна из систем относится к категории «высокого риска», доступ к такой системе внутри компании будет ограничен, а её выпуск — отложен до тех пор, пока не будут приняты меры по смягчению последствий «до умеренного уровня». Если же риск классифицируется как «критический», Meta✴ обязывается развернуть меры безопасности, перечислять которые она не стала, и прекратить разработку до тех пор, пока система не станет менее опасной. Компания намеревается вносить изменения в документ по мере развития отрасли ИИ, а опубликован он будет перед мероприятием France AI Action Summit, которое пройдёт в этом месяце.

Meta✴ в отличие от других американских технологических гигантов открывает исходный код своих моделей ИИ Llama. Созданием этого документа компания, возможно, пытается противопоставить себя китайской DeepSeek, которая также опубликует свои модели открыто, но пока не говорит о защитных мерах.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
RuStore станет обязательным для предустановки на все умные телевизоры в России 2 мин.
«Выглядит потрясающе»: моддер прокачал Dark Souls: Prepare To Die Edition с помощью трассировки пути 2 ч.
«Формула-1» заключила партнёрство с игрой Umamusume: Pretty Derby про девушек-лошадей 3 ч.
Амбициозная стратегия от разработчика-одиночки отправит вести грандиозные космические и наземные битвы — геймплейный трейлер Horu 5 ч.
Никаких убийств, драк с полицией и угонов машин: китайские СМИ раскрыли правила стриминга GTA VI 5 ч.
Microsoft 364: на устранение сбоя облачных сервисов компании ушло больше суток 18 ч.
GTA V запустили на Nintendo Switch 2: игра не только загружается, но и запускает миссии 19 ч.
Facebook заглядывал в галереи смартфонов без разрешения — Meta получила штраф на €805 млн 23 ч.
ИИ обернулся против Хуанга: экс-глава Nvidia стал главным героем ИИ-мемов 15-11 13:07
Крупнейшее обновление LoL в истории: Riot Games показала тизер League of Legends: New Dawn, запланированной на 2027 год 15-11 13:01
Встраиваемая система AAEON Boxer-8741AI выполнена на платформе NVIDIA Jetson T5000 2 ч.
Дженсен Хуанг тайно обсуждает с союзниками возвращение на пост гендира Nvidia 2 ч.
Завтра — глобальный анонс флагманов Xiaomi 18 Pro и Pro Max, в том числе в России 2 ч.
РТК-ЦОД выполнил миграцию ИТ-систем «Комуса» в гибридную среду без остановки бизнес-процессов 5 ч.
CXL-карта Penguin Solutions позволит установить DDR4 в современные ИИ-серверы 6 ч.
Biostar выпустила плату BIPTL-IHT для периферийных ИИ-устройств на базе Intel Panther Lake-H 7 ч.
Новая статья: Обзор SSD-накопителя Samsung 990: четыре бита и много вопросов 15 ч.
+571 % к выручке за год, капзатраты $40–$45 млрд и безубыточность к концу 2027-го: Nebius отчиталась за III квартал 16 ч.
Apple готовит конкурента Meta Ray-Ban: очки с Siri AI будут тоньше и получат наилучшее качество звука 16 ч.
Мозговой имплант вернул голоса пациентам с БАС — одна из них даже смогла снова петь 23 ч.