Сегодня 24 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

В Великобритании запустили платформу для оценки безопасности ИИ

Британский Институт безопасности ИИ (AISI), созданный в ноябре 2023 года, запустил платформу Inspect, предназначенную для тестирования и оценки безопасности ИИ. Она упростит оценку ИИ для применения в промышленных, исследовательских и научных организациях.

 Источник изображения: geralt/Pixabay

Источник изображения: geralt/Pixabay

Набор инструментов Inspect, доступный по лицензии с открытым исходным кодом, включая лицензии MIT, предназначен для оценки определённых возможностей моделей ИИ в различных сферах, включая основные знания моделей и способность рассуждать, и выработки оценки на основе полученных результатов.

По данным ресурса TechCrunch, платформа Inspect состоит из трех основных компонентов: наборов данных, инструментов решения и инструментов оценки. Наборы данных предоставляют образцы для оценочных тестов. Инструменты решения выполняют работу по проведению тестов. А инструменты оценки оценивают результаты и суммируют баллы тестов в метрики.

Компоненты Inspect можно дополнить с помощью сторонних пакетов, написанных на Python. «Мы надеемся, что глобальное сообщество ИИ будет использовать Inspect не только для проведения собственных испытаний на безопасность моделей, но и для адаптации и развития платформы с открытым исходным кодом, чтобы мы могли производить высококачественные оценки по всем направлениям», — заявил председатель AISI Ян Хогарт (Ian Hogarth).

Платформа Inspect была представлена спустя несколько дней после того, как Национальный институт стандартов и технологий США (The National Institute of Standards and Technology, NIST) анонсировал в конце апреля программу NIST GenAI, предназначенную для оценки различных технологий генеративного ИИ, включая модели, генерирующие текст и изображения.

В апреле США и Великобритания объявили о партнёрстве, в рамках которого «правительства будут обмениваться техническими знаниями, информацией и талантливыми специалистами в области безопасности ИИ». В рамках сотрудничества в США будет создан институт безопасности ИИ, который займётся оценкой рисков, связанных с ИИ и генеративным ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Эмитент USDT может подорожать до $500 млрд — это поставит Tether в один ряд со SpaceX и OpenAI 2 мин.
Gearbox отложила релиз Borderlands 4 для Nintendo Switch 2 на неопределённый срок и отменила цифровые предзаказы 21 мин.
ИИ-генерируемые игры не за горами: Epic Games выпустила превью Unreal Engine 5.7 c процедурной генерацией уровней 53 мин.
Платформа «Астра Мониторинг» дополнилась средствами контроля инфраструктуры «1С» 3 ч.
Valve сделала магазин Steam более динамичным и персонализированным — переработанное меню вышло из «беты» 5 ч.
YouTube объявил амнистию для блогеров, заблокированных за фейки о COVID-19 и выборах 6 ч.
Японский Amazon рассекретил дату выхода Nioh 3 до официального анонса 6 ч.
«Google Фото» теперь редактирует снимки по голосовым командам — функция вышла за пределы Pixel 8 ч.
Yakuza Kiwami 3 выйдет с переводом на русский и сюжетным дополнением про главного злодея — дата релиза и первый трейлер ремейка Yakuza 3 9 ч.
Китайский пользователь первым в истории Steam собрал на аккаунте более 40 000 игр 19 ч.
OpenAI арендует, а не купит чипы у NVIDIA в рамках $100-млрд сделки 54 мин.
Представлены смартфоны Xiaomi 15T и 15T Pro с чипами MediaTek и камерами Leica — от €650 до €1000 2 ч.
«Яндекс» строит во Владимирской области новый ЦОД, где разместится новая зона доступности Yandex Cloud 3 ч.
Китайская Innosilicon представила видеокарту Fenghua 3 — CUDA, DX12, трассировка лучей и более 112 Гбайт HBM 3 ч.
SK hynix ускорит закупку EUV‑сканеров, чтобы не отдать Samsung лидерство на рынке HBM 3 ч.
Переход на 5G привёл к ухудшению качества связи в некоторых городах Европы и Северной Америки 4 ч.
Samsung прибрала к рукам Bowers & Wilkins, Denon, Marantz и ещё пятёрку брендов аудиотехники 4 ч.
Logitech представила беспроводную клавиатуру, которая заряжается от лампочки — Signature Slim Solar Plus K980 5 ч.
Raspberry Pi готовит вычислительный модуль CM0 с поддержкой Wi-Fi 4 и Bluetooth 4.2 LE 5 ч.
На краю Солнечной системы засекли вероятный взрыв первичной чёрной дыры — это приблизит учёных к пониманию тёмной материи 5 ч.