Сегодня 04 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft, OpenAI и другие обязались защитить человечество от мощных ИИ-систем

Крупнейшие технологические компании, включая Microsoft, Amazon и OpenAI, во вторник в ходе саммита AI Seoul Summit 2024 заключили международное соглашение о безопасности искусственного интеллекта, взяв на себя добровольное обязательство по обеспечению безопасной разработки своих самых передовых моделей ИИ.

 Источник изображения: GDJ/Pixabay

Источник изображения: GDJ/Pixabay

В рамках соглашения компании опубликуют концепции безопасности для своих передовых моделей, предусматривающие, в том числе, предотвращение использования технологии злоумышленниками.

Эти концепции будут включать «красные линии» для технологических компаний, определяющие риски, связанные с использованием систем ИИ, которые будут считаться «недопустимыми». В их числе автоматизированные кибератаки и угроза создания биологического оружия. Для реагирования на возникновение таких рисков компании планируют внедрить «аварийный выключатель», с помощью которого будет прекращена разработка ИИ-моделей, если нельзя будет гарантировать снижение этих рисков.

Согласованный на саммите пакт расширяет перечень обязательств разработчиков ИИ, принятый в ноябре прошлого года, и применяется только к так называемым пограничным моделям. Этот термин относится к технологии, используемой в системах генеративного ИИ, таких как семейство больших языковых моделей OpenAI GPT, лежащих в основе чат-бота ChatGPT.

С тех пор как OpenAI представила ChatGPT в ноябре 2022 года, регулирующие органы разных стран и технологические лидеры всё больше выражают беспокойство по поводу рисков, связанных с использованием инновационных систем ИИ. В связи с этим в марте 2024 года Европарламент одобрил первый в мире закон, которым регулируются использование и разработка ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
RuStore и АКИ создадут экосистему для развития мобильных игр и «появления новых российских хитов на мировом рынке» 2 ч.
Релиз «Альт Рабочая станция» 11.1: шифрование по ГОСТ, расширенная поддержка видеокарт Nvidia, приложения собственной разработки 2 ч.
«Уже лучшая игра 2026 года для меня»: журналисты показали сражение с боссом в Nioh 3, и фанаты в восторге 2 ч.
Франция оштрафовала Google на €325 миллионов за нарушение требований по защите потребителей 3 ч.
Функция Projects в ChatGPT стала доступна бесплатным пользователям 3 ч.
Как шахматы, но быстрее: соавтор Nuclear Throne анонсировал странную пошаговую стратегию Australia Did It 3 ч.
Произошёл серьёзный сбой в работе сервисов Google 4 ч.
Присяжные в суде Сан-Франциско обязали Google выплатить более $425 млн за нарушение конфиденциальности 5 ч.
Отрасль затаила дыхание —Tesco, крупнейшая розничная сеть в Великобритании, подала в суд на Broadcom из-за изменения лицензионной политики VMware 7 ч.
Надёжный инсайдер: новая God of War в разработке, а Marvel’s Wolverine скоро выйдет из тени 7 ч.
Dreame представила роботы-пылесосы Aqua10 Ultra Track с технологиями Nvidia и Matrix10 Ultra с автозаменой моющих насадок 0 мин.
Представлен рукастый робот-пылесос Dreame Cyber10 Ultra для очистки труднодоступных мест 1 мин.
ICL организовала производство модульных ЦОД DataCube 7 мин.
Google бросила вызов NVIDIA, предложив малым облачным провайдерам собственные ИИ-ускорители TPU 14 мин.
Belkin представила проводные наушники SoundForm USB-C ANC, а также три беспроводных модели по цене $34,99 29 мин.
SpaceX разрешили удвоить количество пусков ракет из Флориды 35 мин.
Американцы хотят полететь на Марс уже в начале 2030-х годов 2 ч.
Представлен Eufy MarsWalker — робот для подъёма и спуска роботов- пылесосов по лестницам 2 ч.
Учёные обучили промышленных роботов «балету», чтобы они не мешали друг другу при совместной работе 3 ч.
Новая статья: Первый взгляд на смартфон Samsung Galaxy S25 FE и планшеты Samsung Galaxy Tab S11/S11 Ultra 3 ч.