Сегодня 22 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI предупреждала Microsoft перед запуском ИИ-бота в Bing, что он будет давать странные ответы

OpenAI предупреждала Microsoft о необходимости постепенного внедрения GPT-4 в поисковую систему Bing, чтобы избежать неточных и непредсказуемых ответов, с которыми компания в итоге столкнулась при запуске. В отчёте также упоминается то, что команда OpenAI предупреждала о негативных рисках, связанных со слишком ранним выпуском чат-бота Bing на базе ещё не вышедшей версии GPT-4.

 Источник изображения: Microsoft/OpenAI

Источник изображения: Microsoft/OpenAI

Через несколько дней после запуска Bing Chat в феврале пользователи обнаружили, что чат-бот непредсказуем и может оскорблять пользователей, лгать им, и даже утверждать, что опознает в собеседниках своих врагов. После этого Microsoft быстро ограничила ответы Bing Chat, чтобы не дать искусственному интеллекту стать неконтролируемым. Потребовались месяцы работы, чтобы привести чат-бота Bing к тому состоянию, когда он может вести долгий разговор с пользователем без неожиданных выпадов. Тем не менее, он все ещё часто ошибается. The Wall Street Journal сообщает, что OpenAI предупреждала Microsoft о том, что GPT-4 не готова для внедрения в Bing Chat

В отчёте новостного издания также описывается напряжённость в отношениях между двумя компаниями, которые работают вместе и конкурируют в области ИИ. Сообщается, что руководители Microsoft были обеспокоены запуском ChatGPT в прошлом году. По данным WSJ, OpenAI предупредила Microsoft за несколько недель о том, что начнёт публичное тестирование ChatGPT, как раз в тот момент, когда софтверный гигант начал интегрировать модели OpenAI в Bing.

Microsoft и OpenAI имеют довольно уникальное партнёрство, которое привело к некоторому конфликту за кулисами, поскольку две компании одновременно поддерживают и конкурируют друг с другом. Компания лицензирует технологии OpenAI для использования в Bing, Azure, Office, Windows и многих других продуктах.

Microsoft также является эксклюзивным облачным партнёром OpenAI, и облачные сервисы цифрового гиганта обеспечивают работу всех задач OpenAI, включая её продукты, API-сервисы и исследования. В то же время OpenAI разработала свои собственные продукты и API-услуги, которые привлекают тех же клиентов, что и Microsoft. Наконец, ChatGPT является прямым конкурентом Bing Chat.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Nvidia устранила некоторые критические проблемы видеокарт GeForce с помощью экстренного обновления драйвера 2 ч.
В Steam начался фестиваль передвижения ящиков — со скидками на головоломки, в которых игрок является «главной движущей силой» 4 ч.
Московский суд оштрафовал Telegram на 4 млн рублей за неудаление запрещённой информации 4 ч.
Опубликовано 25 минут геймплея футуристического шутера La Quimera от бывших разработчиков Metro — игру сравнивают с Killzone и Crysis 4 ч.
«К2Тех» и «К2 Кибербезопасность» анонсировали услугу по защите от вирусов-шифровальщиков 5 ч.
Arenadata приобрела у Orion soft СУБД Proxima DB и переименовала её в Arenadata Prosperity (ADP) 5 ч.
Исследование Honor: люди всё чаще прибегают к помощи ИИ, но скрывают это 5 ч.
Календарь релизов — 21–27 апреля: Tempest Rising, Clair Obscur: Expedition 33 и Steel Seed 6 ч.
В I квартале 2025 года количество масштабных IT-инцидентов в России выросло на четверть 6 ч.
R-Vision запускает линейку продуктов для цифровизации бизнеса 6 ч.