Сегодня 13 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft, OpenAI и другие обязались защитить человечество от мощных ИИ-систем

Крупнейшие технологические компании, включая Microsoft, Amazon и OpenAI, во вторник в ходе саммита AI Seoul Summit 2024 заключили международное соглашение о безопасности искусственного интеллекта, взяв на себя добровольное обязательство по обеспечению безопасной разработки своих самых передовых моделей ИИ.

 Источник изображения: GDJ/Pixabay

Источник изображения: GDJ/Pixabay

В рамках соглашения компании опубликуют концепции безопасности для своих передовых моделей, предусматривающие, в том числе, предотвращение использования технологии злоумышленниками.

Эти концепции будут включать «красные линии» для технологических компаний, определяющие риски, связанные с использованием систем ИИ, которые будут считаться «недопустимыми». В их числе автоматизированные кибератаки и угроза создания биологического оружия. Для реагирования на возникновение таких рисков компании планируют внедрить «аварийный выключатель», с помощью которого будет прекращена разработка ИИ-моделей, если нельзя будет гарантировать снижение этих рисков.

Согласованный на саммите пакт расширяет перечень обязательств разработчиков ИИ, принятый в ноябре прошлого года, и применяется только к так называемым пограничным моделям. Этот термин относится к технологии, используемой в системах генеративного ИИ, таких как семейство больших языковых моделей OpenAI GPT, лежащих в основе чат-бота ChatGPT.

С тех пор как OpenAI представила ChatGPT в ноябре 2022 года, регулирующие органы разных стран и технологические лидеры всё больше выражают беспокойство по поводу рисков, связанных с использованием инновационных систем ИИ. В связи с этим в марте 2024 года Европарламент одобрил первый в мире закон, которым регулируются использование и разработка ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
xAI будет создавать виртуальные миры для игр и обучения роботов 5 ч.
Пользователи ChatGPT снова могут удалять свои чаты безвозвратно 24 ч.
Арт-директор Halo покинул студию после 17 лет работы и намекнул на проблемы в команде разработчиков 12-10 10:33
Один из основателей ИИ-стартапа Thinking Machines переметнулся к Марку Цукербергу 12-10 08:17
Apple завершила поддержку своего бесплатного видеоредактора Clips 12-10 06:28
Новая статья: CloverPit — добро пожаловать в яму. Рецензия 12-10 00:07
Хакерская группировка объявила о взломе Nintendo — похищены файлы выпущенных и грядущих игр 11-10 19:32
Chrome сам будет блокировать уведомления с сайтов, которые пользователь игнорирует 11-10 14:40
ChatGPT прошёл стресс-тест на политическую предвзятость, но не безупречно 11-10 14:24
Telegram получил большое обновление: переписки в групповых звонках, комментарии к профилям и другие нововведения 11-10 11:57
Умные очки Apple будут работать в разных режимах при подключении к Mac и iPhone 23 мин.
Нидерланды захватили контроль над китайским производителем чипов Nexperia — ради нацбезопасности 25 мин.
Анонсирован защищённый смартфон Oukitel WP58 Pro с батареей на 10 000 мА·ч и двумя кемпинговыми фонариками 2 ч.
«Зелёные» надежды стали пеплом: американские ЦОД активно переходят на питание от угольных электростанций из-за спроса на ИИ 2 ч.
Тайвань заявил, что не зависит от китайских редкоземельных металлов 7 ч.
Вложи $5 млн — получи $75 млн: NVIDIA похвасталась новыми рекордами в комплексном бенчмарке InferenceMAX v1 11 ч.
Новая статья: Обзор материнской платы MSI MPG B850I Edge Ti WiFi: не называй меня малышкой 12 ч.
Арест за арестом: причиной возгорания в правительственном ЦОД Южной Кореи могло стать не отключенное вовремя резервное питание 20 ч.
ИИ спас США от рецессии, став единственным драйвером роста в 2025 году 21 ч.
Graphcore, спасённая SoftBank, воспрянула духом — штат в Великобритании удвоится, а в разработку в Индии инвестируют $1 млрд 21 ч.