Сегодня 04 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft, OpenAI и другие обязались защитить человечество от мощных ИИ-систем

Крупнейшие технологические компании, включая Microsoft, Amazon и OpenAI, во вторник в ходе саммита AI Seoul Summit 2024 заключили международное соглашение о безопасности искусственного интеллекта, взяв на себя добровольное обязательство по обеспечению безопасной разработки своих самых передовых моделей ИИ.

 Источник изображения: GDJ/Pixabay

Источник изображения: GDJ/Pixabay

В рамках соглашения компании опубликуют концепции безопасности для своих передовых моделей, предусматривающие, в том числе, предотвращение использования технологии злоумышленниками.

Эти концепции будут включать «красные линии» для технологических компаний, определяющие риски, связанные с использованием систем ИИ, которые будут считаться «недопустимыми». В их числе автоматизированные кибератаки и угроза создания биологического оружия. Для реагирования на возникновение таких рисков компании планируют внедрить «аварийный выключатель», с помощью которого будет прекращена разработка ИИ-моделей, если нельзя будет гарантировать снижение этих рисков.

Согласованный на саммите пакт расширяет перечень обязательств разработчиков ИИ, принятый в ноябре прошлого года, и применяется только к так называемым пограничным моделям. Этот термин относится к технологии, используемой в системах генеративного ИИ, таких как семейство больших языковых моделей OpenAI GPT, лежащих в основе чат-бота ChatGPT.

С тех пор как OpenAI представила ChatGPT в ноябре 2022 года, регулирующие органы разных стран и технологические лидеры всё больше выражают беспокойство по поводу рисков, связанных с использованием инновационных систем ИИ. В связи с этим в марте 2024 года Европарламент одобрил первый в мире закон, которым регулируются использование и разработка ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Способность ИИ к пониманию собственных слов оказалась «потёмкинской» 22 мин.
«Яндекс» обновил «Нейроэксперта» — ИИ научился рассуждать и анализировать сайты целиком 3 ч.
Продажи Rust на ПК превысили 20 млн копий — игра заслужила больше миллиона положительных обзоров в Steam 4 ч.
Исследование: поиск информации в Google может подавлять креативность 5 ч.
Цукерберг снова обещает революцию — ИИ-амбиции Meta напомнили о провале метавселенной 5 ч.
«Ростелеком» нацелился создать конкурента Steam и VK Play, в том числе для российской игровой консоли 5 ч.
«Блокнот» спустя 43 года освоил жирный шрифт и курсив 6 ч.
Создатели The Elder Scrolls Online готовили смесь Destiny и «Бегущего по лезвию» — Фил Спенсер не мог оторваться от игры, но её всё равно отменили 7 ч.
Представлен российский сервер Java-приложений WildBoss Pro, способный заменить IBM WebSphere Application Server и Oracle GlassFish Server 8 ч.
Надёжный инсайдер: Techland отменила амбициозную фэнтезийную RPG, но занялась новой Call of Juarez 8 ч.
Илон Маск перевезёт электростанцию из-за границы в США для своего прожорливого ИИ 33 мин.
Геймер превратил Honda CR-V в игровой контроллер для Need for Speed Underground 45 мин.
«РТК-ЦОД» дополнила «Публичное облако» сервисом защиты сети на базе NGFW 3 ч.
Mitsubishi тестирует систему сезонного хранения тепла и холода в грунтовых водах 3 ч.
Foxconn и Kawasaki разработали робота-помощника для медсестёр — в больницах он появится в 2026 году 3 ч.
Китайцы разлюбили иностранные смартфоны — их продажи упали на 9,7 % в мае 4 ч.
Китайская Envision устроила пожар в системе хранения энергии, чтобы доказать её устойчивость к распространению огня 4 ч.
«Инферит» представил российские GPU-серверы с СЖО на платформах AMD и Intel 5 ч.
Петабит на пару: японская NICT поставила очередной рекорд скорости передачи данных по оптоволокну 5 ч.
Раскрыты российские цены GeForce RTX 5050 — не такая уж бюджетная 5 ч.