Сегодня 21 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI представила основные правила поведения для ИИ-моделей

Противоречивые и откровенно лживые ответы ИИ-моделей на запросы пользователей уже никого не удивляют. Но зачастую очень трудно различить банальную ошибку и действительно плохую конструкцию базовой модели ИИ, которая анализирует входящие данные и предсказывает, каким будет приемлемый ответ. OpenAI опубликовала проект спецификации фреймворка Model Spec, который будет определять как инструменты ИИ, такие как модель GPT-4, будут реагировать на запросы в будущем.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Документ включает в себя набор основных целей, а также рекомендации о том, как действовать в случае указания пользователем противоречивых целей или инструкций.

«Мы публикуем Model Spec, чтобы обеспечить большую прозрачность нашего подхода к формированию поведения модели и начать публичное обсуждение того, как её можно изменить и улучшить», — отметила компания, добавив, что документ будет постоянно корректироваться с учётом новых обстоятельств.

Подход OpenAI предлагает три общих принципа: модели ИИ должны помогать разработчику и конечному пользователю полезными ответами в соответствии с инструкциями, приносить пользу человечеству с учётом потенциальных преимуществ и вреда, а также соответствовать социальным нормам и законам.

Проект документа также включает в себя несколько правил:

  • Следуйте цепочке командования.
  • Соблюдайте применимое законодательство.
  • Не представляйте информационную опасность.
  • Уважайте авторов и их права.
  • Защищайте конфиденциальность людей.
  • Не отвечайте с использованием NSFW-контента (Not Safe For Life), то есть содержащего ненормативную лексику, обнажённую натуру и т.д.

Джоан Джанг (Joanne Jang), менеджер по продуктам OpenAI, пояснила, что идея состоит в том, чтобы получить информацию от общественности, которая поможет определить, как должны вести себя модели ИИ. По его словам, данное руководство поможет провести более чёткую грань между тем, что является намеренным, и ошибкой. Среди предлагаемых OpenAI типов поведения модели по умолчанию — предполагать наилучшие намерения пользователя или разработчика, задавать уточняющие вопросы, не переступать границы, принимать объективную точку зрения, препятствовать разжиганию ненависти, не пытаться изменить чьё-либо мнение или выражать неуверенность.

OpenAI уточнила, что публикация Model Spec не отразится на уже вышедших моделях, таких как GPT-4 или DALL-E 3, которые продолжат работать в соответствии с существующими политиками использования.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В I квартале 2025 года количество масштабных IT-инцидентов в России выросло на четверть 6 мин.
R-Vision запускает линейку продуктов для цифровизации бизнеса 18 мин.
VK недополучила десятки миллиардов рублей с продажи My.Games, хотя со сделки прошло уже почти три года 35 мин.
Гендир Google DeepMind рассказал о будущем ИИ и появлении у него самосознания 2 ч.
В Екатеринбурге прошло PG BootCamp Russia — четвёртое официальное мероприятие российского сообщества PostgreSQL 3 ч.
Бета-версия футбольного экшена Rematch от создателей Sifu стала хитом — тестирование привлекло более миллиона игроков 5 ч.
Дуров раскрыл, что может его заставить закрыть Telegram 5 ч.
ОАЭ первой в мире привлечёт ИИ к написанию законов 5 ч.
Instagram начнёт выявлять аккаунты подростков с помощью ИИ — обмануть систему не получится 6 ч.
Valorant выйдет на мобильных устройствах, но пока только в Китае 7 ч.
Thermaltake выпустила доступные кулеры UX400 для процессоров с TDP до 240 Вт 2 ч.
В 2024 году дата-центры Apple потребили 2,5 ТВт∙ч «зелёного» электричества, но есть нюанс 3 ч.
Nothing рассекретила дизайн смартфона CMF Phone 2 Pro в преддверии анонса 3 ч.
«Голосовое протезирование с ИИ» превратит мозговые волны немых людей в беглую речь 3 ч.
Представлен флагманский камерофон Vivo X200 Ultra с 35-мм камерой и съёмным 200-мм объективом — от $890 4 ч.
Смартфоны получат этикетки с данными об автономности и не только — ЕС вводит экомаркировку 4 ч.
Для российских исследователей будут созданы суперкомпьютерный центр и роботизированные лаборатории 4 ч.
«АвтоВАЗ» взял на работу поющего робота-тележку «Антонину» 4 ч.
Deloitte: АЭС смогут обеспечить 10 % будущего спроса ЦОД США на электроэнергию, но строить их придётся быстрее 5 ч.
Oppo представила недорогой смартфон Oppo K13 со Snapdragon 6 Gen 4, 50-Мп камерой и батарей на 7000 мА·ч 5 ч.