Сегодня 05 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI представила основные правила поведения для ИИ-моделей

Противоречивые и откровенно лживые ответы ИИ-моделей на запросы пользователей уже никого не удивляют. Но зачастую очень трудно различить банальную ошибку и действительно плохую конструкцию базовой модели ИИ, которая анализирует входящие данные и предсказывает, каким будет приемлемый ответ. OpenAI опубликовала проект спецификации фреймворка Model Spec, который будет определять как инструменты ИИ, такие как модель GPT-4, будут реагировать на запросы в будущем.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Документ включает в себя набор основных целей, а также рекомендации о том, как действовать в случае указания пользователем противоречивых целей или инструкций.

«Мы публикуем Model Spec, чтобы обеспечить большую прозрачность нашего подхода к формированию поведения модели и начать публичное обсуждение того, как её можно изменить и улучшить», — отметила компания, добавив, что документ будет постоянно корректироваться с учётом новых обстоятельств.

Подход OpenAI предлагает три общих принципа: модели ИИ должны помогать разработчику и конечному пользователю полезными ответами в соответствии с инструкциями, приносить пользу человечеству с учётом потенциальных преимуществ и вреда, а также соответствовать социальным нормам и законам.

Проект документа также включает в себя несколько правил:

  • Следуйте цепочке командования.
  • Соблюдайте применимое законодательство.
  • Не представляйте информационную опасность.
  • Уважайте авторов и их права.
  • Защищайте конфиденциальность людей.
  • Не отвечайте с использованием NSFW-контента (Not Safe For Life), то есть содержащего ненормативную лексику, обнажённую натуру и т.д.

Джоан Джанг (Joanne Jang), менеджер по продуктам OpenAI, пояснила, что идея состоит в том, чтобы получить информацию от общественности, которая поможет определить, как должны вести себя модели ИИ. По его словам, данное руководство поможет провести более чёткую грань между тем, что является намеренным, и ошибкой. Среди предлагаемых OpenAI типов поведения модели по умолчанию — предполагать наилучшие намерения пользователя или разработчика, задавать уточняющие вопросы, не переступать границы, принимать объективную точку зрения, препятствовать разжиганию ненависти, не пытаться изменить чьё-либо мнение или выражать неуверенность.

OpenAI уточнила, что публикация Model Spec не отразится на уже вышедших моделях, таких как GPT-4 или DALL-E 3, которые продолжат работать в соответствии с существующими политиками использования.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Metal Gear Solid Delta: Snake Eater продаётся быстрее Silent Hill 2 — Konami похвасталась успехами ремейка 26 мин.
Неудачи Sid Meier’s Civilization VII обернулись для Firaxis Games увольнением десятков сотрудников 10 ч.
Microsoft заработает более $7 млрд на расширенной поддержке Windows 10 13 ч.
Ubisoft похвасталась количеством игроков Prince of Persia: The Lost Crown, но продажи раскрывать не спешит 13 ч.
Firefox будет поддерживать Windows 7 как минимум до 24 марта 2026 года 13 ч.
Видеоредактор Adobe Premiere выйдет на iPhone и за него не придётся платить 13 ч.
Не только Steam: релиз Hollow Knight: Silksong нарушил работу цифровых магазинов Xbox, PlayStation и Nintendo 15 ч.
Исследование Gartner: к 2027 году почти все компании перейдут на виртуальные рабочие столы 16 ч.
Переход с Windows 10 на Windows 11 может затянуться на весь 2026 год — половина современных ПК так и работает на старой ОС 16 ч.
Google запустила ИИ-клавиатуру Gboard для всех пользователей Android 17 ч.
Lenovo показала концепт ноутбука ThinkBook VertiFlex с поворотным дисплеем 24 мин.
Lenovo представила портативную консоль Legion Go 2 — 8,8" OLED, Ryzen Z2 Extreme и съёмные контроллеры 24 мин.
Этой осенью Waymo начнёт перевозить пассажиров на беспилотных такси в аэропорт Сан-Хосе 2 ч.
Китайским учёным удалось доказать существование у Марса твёрдого ядра 3 ч.
Intel не ранее следующего года определится с целесообразностью освоения техпроцесса 14A 4 ч.
Контракт на выпуск ИИ-чипов для OpenAI обогатит Broadcom на $10 млрд 4 ч.
Трамп пригрозил производителям чипов повышенными пошлинами, если они не готовы обосноваться в США 5 ч.
В Канаде двоим пациентам впервые вживили мозговые импланты Neuralink 5 ч.
AMD готовит ответ ИИ-серверам Nvidia — система MegaPod объединит 256 ускорителей Instinct MI500 и 64 процессора EPYC Verano 9 ч.
Новая статья: Обзор складного смартфона HONOR Magic V5: снова самый тонкий, но есть нюансы 10 ч.