Сегодня 22 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Пользователям ChatGPT позволят изменять ИИ-бота под себя — это даст боту больше свободы

Разработавшая передового ИИ-бота ChatGPT компания OpenAI рассказала о том, как проект может развиваться дальше. В качестве одного из вариантов рассматривается настраиваемая версия системы, способная в определённой мере адаптироваться к отдельным пользователям.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

К такому решению компанию подтолкнули некоторые отзывы на работу ChatGPT: систему начали обвинять в предвзятости в отношении вопросов политического и культурного характера. Например, она пишет стихи про одного президента США и отказывается писать про другого. Поэтому в компании решили выпустить обновление ChatGPT, которое даст платформе больше свободы при ответах на запросы пользователей: ИИ-бот сможет «говорить» вещи, неприемлемые для других. Идея уже вызвала опасения, что ChatGPT начнёт в итоге продвигать спорные идеологии или займёт одну из сторон в культурной войне.

Разработчик обещает сохранить защитные барьеры, способные сделать поведение ChatGPT недопустимым. С другой стороны, он не хочет превратить систему в «подхалимский» ИИ, который «бездумно усиливает существующие убеждения людей». Настало время решить, каковы будут границы дозволенного у ИИ, говорят в OpenAI: компания не может принять такое решение самостоятельно и не хочет выстраивать единую монолитную систему ИИ — это противоречит уставу OpenAI, который предписывает «избегать чрезмерной концентрации власти». Компания призывает представителей общественности выдвигать идеи о дальнейшем управлении ChatGPT — могут появиться несколько версий системы.

OpenAI также попыталась стать прозрачнее в отношении того, что может показаться предвзятостью ИИ по деликатным политическим и культурным вопросам. ChatGPT — большая языковая модель, обученная на библиотеках интернет-контента, на новостях, книгах и сообщениях в соцсетях, а не база данных. При ответе на вопрос система производит нечто вроде «автозаполнения» на заданную тему, и любое проявление предубеждения является просто технической ошибкой. Разработчик не в силах предсказать, какой вопрос зададут машине, а значит, не в силах написать инструкцию для каждого из них. OpenAI проводит активные исследования и разработку с целью снизить число таких ошибок, есть и специалисты, ответственные за «тонкую настройку» ChatGPT — они помогают ИИ давать более точные ответы на узкие вопросы. Компания опубликовала рекомендации (PDF), на основе которых специалисты выстраивают свою работу с системой, и пообещала привести демографическую сводку об этих специалистах.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
OpenAI пытается выйти на рынок интернет-браузеров и поисковых систем 8 мин.
Apple научит Siri лучше поддерживать диалоги с пользователем 2 ч.
Новая статья: Верные спутники: 20+ полезных Telegram-ботов для путешественников 7 ч.
Итоги Golden Joystick Awards 2024 — Final Fantasy VII Rebirth и Helldivers 2 забрали больше всех наград, а Black Myth: Wukong стала игрой года 9 ч.
В программу сохранения классических игр от GOG вошли S.T.A.L.K.E.R. Shadow of Chernobyl и Call of Pripyat, а Clear Sky — на подходе 10 ч.
Star Wars Outlaws вышла в Steam с крупным обновлением и дополнением про Лэндо Калриссиана 11 ч.
Рекордная скидка и PvP-режим Versus обернулись для Warhammer: Vermintide 2 полумиллионом новых игроков за неделю 12 ч.
Новый трейлер раскрыл дату выхода Mandragora — метроидвании с элементами Dark Souls и нелинейной историей от соавтора Vampire: The Masquerade — Bloodlines 13 ч.
В Японии порекомендовали добавить в завещания свои логины и пароли 15 ч.
Обновления Windows 11 больше не будут перезагружать ПК, но обычных пользователей это не касается 15 ч.
Nvidia предупредила о возможном дефиците игровых решений в четвёртом квартале 4 ч.
Представлен внешний SSD SanDisk Extreme на 8 Тбайт за $800 и скоростной SanDisk Extreme PRO с USB4 8 ч.
Представлен безбуферный SSD WD_Black SN7100 со скоростью до 7250 Мбайт/с и внешний SSD WD_Black C50 для Xbox 8 ч.
Новая статья: Обзор ноутбука ASUS Zenbook S 16 (UM5606W): Ryzen AI в естественной среде 9 ч.
Redmi показала флагманский смартфон K80 Pro и объявила дату его премьеры 11 ч.
Астрономы впервые сфотографировали умирающую звезду за пределами нашей галактики — она выглядит не так, как ожидалось 14 ч.
Представлена технология охлаждения чипов светом — секретная и только по предварительной записи 14 ч.
Японская Hokkaido Electric Power намерена перезапустить ядерный реактор для удовлетворения потребности ЦОД в энергии 14 ч.
Грузовик «Прогресс МС-29» улетел к МКС с новогодними подарками и мандаринами для космонавтов 15 ч.
Meta планирует построить за $5 млрд кампус ЦОД в Луизиане 15 ч.