Сегодня 03 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Meta✴ пообещала отменить выпуск моделей ИИ, которые сочтёт слишком опасными для человечества

Ранее гендиректор Meta Марк Цукерберг (Mark Zuckerberg) пообещал, что сделает сильный искусственный интеллект (AGI), то есть не уступающий человеку, общедоступным. Но теперь в одном из определяющих политику документов компании перечисляются сценарии, при которых она может отменить выпуск передовой системы ИИ.

 Источник изображения: Christopher Burns / unsplash.com

Источник изображения: Christopher Burns / unsplash.com

В документе под названием «Основы организации передового ИИ» (Frontier AI Framework) компанией Meta определяются два типа систем ИИ, которые представляются слишком рискованными для выпуска: системы «высокого риска» и «критического риска». Это системы, способные оказать гипотетическим злоумышленникам помощь в преодолении средств кибербезопасности, проведении химических и биологических атак. Разница в том, что системы «критического риска» способны привести к «катастрофическому результату, который невозможно смягчить в контексте развёртывания»; системы «высокого риска» также способны облегчить злоумышленникам провести атаку, но они менее надёжны, чем системы «критического риска».

Meta приводит несколько гипотетических примеров таких атак, в том числе «полная автоматизированная компрометация окружения корпоративного масштаба, защищённого передовыми методами» и «разрастание высокоэффективного биологического оружия». Список приведённых в документе угроз не является исчерпывающим, отмечают в компании, — он включает лишь те позиции, которые считаются самыми неотложными и вероятными как результат непосредственной работы мощного ИИ. Системные угрозы классифицируются не на основе практических опытов, а с учётом данных внутренних и внешних исследований, утверждённых лицами, принимающими решения: в Meta не уверены, что научные средства «достаточно надёжны, чтобы предоставить окончательные количественные показатели», определяющие степень угрозы, которую представляет система.

Если Meta решит, что одна из систем относится к категории «высокого риска», доступ к такой системе внутри компании будет ограничен, а её выпуск — отложен до тех пор, пока не будут приняты меры по смягчению последствий «до умеренного уровня». Если же риск классифицируется как «критический», Meta обязывается развернуть меры безопасности, перечислять которые она не стала, и прекратить разработку до тех пор, пока система не станет менее опасной. Компания намеревается вносить изменения в документ по мере развития отрасли ИИ, а опубликован он будет перед мероприятием France AI Action Summit, которое пройдёт в этом месяце.

Meta в отличие от других американских технологических гигантов открывает исходный код своих моделей ИИ Llama. Созданием этого документа компания, возможно, пытается противопоставить себя китайской DeepSeek, которая также опубликует свои модели открыто, но пока не говорит о защитных мерах.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ЕС продолжит строго регулировать технологическую отрасль, несмотря на угрозы Трампа 8 мин.
Cloudflare отразила самую мощную в истории DDoS-атаку — 11,5 Тбит/с в пике 9 мин.
SAP инвестирует более €20 млрд в суверенное облако для поддержки европейских клиентов 10 мин.
Инсайдер: амбициозная Resident Evil Requiem выйдет на Nintendo Switch 2 и даже PS4 21 мин.
ИИ-блокнот Google NotebookLM научился спорить сам с собой в формате аудиообзоров 2 ч.
Конкуренты Google негодуют из-за того, что суд разрешил ей сохранить Chrome 2 ч.
Количество зрителей на Twitch упало до самого низкого уровня за 5 лет из-за борьбы с ботами 2 ч.
«Вы объявили об этом только из-за “Таркова”»: анонс скорого релиза эвакуационного шутера Arena Breakout: Infinite в Steam удивил игроков 2 ч.
ChatGPT получит родительский контроль и научится выявлять психологические проблемы у пользователей 3 ч.
Суд разрешил Google дальше платить Apple миллиарды за установку её поиска в Safari по умолчанию 3 ч.
Tesla рассказала, кто покупает её автопилот — наибольшей популярностью FSD пользуется у владельцев дорогих моделей 50 % 2 ч.
Tesla представила четвёртый «Генеральный план», но так и не разобралась с предыдущими 2 ч.
FS представила оптические коммутаторы DCS-W и 800G LPO-трансивер для задач ИИ и НРС 2 ч.
SpaceX выполнила редкий запуск Falcon 9 с новой первой ступенью — созвездие Starlink пополнили 24 спутника 3 ч.
Intel потратила больше других чипмейкеров на исследования, но ей это не особо помогло 3 ч.
Ядерные отходы станут источником дефицитного трития для термоядерных реакторов 3 ч.
В чем уникальность зум-камеры HUAWEI Pura 80 Ultra? 4 ч.
Гибридный суперчип NVIDIA GB10 оказался технически самым совершенным в семействе Blackwell 5 ч.
«Фантомные» ИИ ЦОД ещё не построены, но уже мешают энергокомпаниям США 5 ч.
Купе Audi Concept C навеяло ностальгию о снятом с производства Audi TT 5 ч.