Сегодня 30 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft, OpenAI и другие обязались защитить человечество от мощных ИИ-систем

Крупнейшие технологические компании, включая Microsoft, Amazon и OpenAI, во вторник в ходе саммита AI Seoul Summit 2024 заключили международное соглашение о безопасности искусственного интеллекта, взяв на себя добровольное обязательство по обеспечению безопасной разработки своих самых передовых моделей ИИ.

 Источник изображения: GDJ/Pixabay

Источник изображения: GDJ/Pixabay

В рамках соглашения компании опубликуют концепции безопасности для своих передовых моделей, предусматривающие, в том числе, предотвращение использования технологии злоумышленниками.

Эти концепции будут включать «красные линии» для технологических компаний, определяющие риски, связанные с использованием систем ИИ, которые будут считаться «недопустимыми». В их числе автоматизированные кибератаки и угроза создания биологического оружия. Для реагирования на возникновение таких рисков компании планируют внедрить «аварийный выключатель», с помощью которого будет прекращена разработка ИИ-моделей, если нельзя будет гарантировать снижение этих рисков.

Согласованный на саммите пакт расширяет перечень обязательств разработчиков ИИ, принятый в ноябре прошлого года, и применяется только к так называемым пограничным моделям. Этот термин относится к технологии, используемой в системах генеративного ИИ, таких как семейство больших языковых моделей OpenAI GPT, лежащих в основе чат-бота ChatGPT.

С тех пор как OpenAI представила ChatGPT в ноябре 2022 года, регулирующие органы разных стран и технологические лидеры всё больше выражают беспокойство по поводу рисков, связанных с использованием инновационных систем ИИ. В связи с этим в марте 2024 года Европарламент одобрил первый в мире закон, которым регулируются использование и разработка ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Безжалостный российский боевик Kiborg вышел на ПК и консолях — первые игроки в восторге 13 мин.
Спустя 11 лет легендарная Flappy Bird вернулась на Android в качестве эксклюзива Epic Games Store 3 ч.
Nvidia придумала, как с помощью ИИ генерировать точные изображения без текстовых запросов — подойдёт он не всем 4 ч.
Карточный роглайк «Бессмертный. Сказки Старой Руси» от авторов «Войны Миров: Сибирь» получил крупное обновление и взял курс на Epic Games Store 5 ч.
Google Gemini поможет в практике иностранных языков — есть и поддержка русского 5 ч.
Российский суд оштрафовал заблокированный Viber на 800 тысяч рублей 6 ч.
Больше половины запущенных с 2021 года криптовалют провалились 7 ч.
«Горячие» обновления для локальных Windows Server 2025 станут платными 9 ч.
Актриса озвучки Йеннифэр из The Witcher 3: Wild Hunt «ничего не знает» о возможном возвращении чародейки в «Ведьмаке 4» 9 ч.
Доминирование Google пошатнулось — его доля на мировом рынке поиска скатилась ниже 90 % впервые за десять лет 10 ч.
Western Digital отчиталась о росте продаж HDD, в том числе сверхъёмких и дорогих — всё благодаря ИИ и облакам 4 ч.
Российские вендоры предложили полностью запретить продажу иностранной электроники на госзакупках 5 ч.
Meta разрешила своим умным очкам постоянно «смотреть» и «слушать» — отказаться от этого непросто 5 ч.
«Выдающийся и чрезвычайно прибыльный год»: Logitech отчиталась о росте почти по всем направлениям 5 ч.
Supermicro недосчиталась порядка $1 млрд по итогам квартала — акции рухнули на 19 % 6 ч.
Samsung вернула лидерство на мировом рынке смартфонов — Apple упала на второе место, а Xiaomi укрепилась на третьем 7 ч.
SpaceX вдохновила китайцев на создание ракет из нержавеющей стали 7 ч.
RuVDS модернизировала свой ЦОД в бомбоубежище 7 ч.
Ulefone представила защищённые смартфоны с необычными функциями на выставке «Связь-2025» 8 ч.
InWin представила вместительный компьютерный корпус PRISM весом 10 кг с четырьмя вентиляторами 9 ч.