OpenAI предупреждала Microsoft перед запуском ИИ-бота в Bing, что он будет давать странные ответы

OpenAI предупреждала Microsoft о необходимости постепенного внедрения GPT-4 в поисковую систему Bing, чтобы избежать неточных и непредсказуемых ответов, с которыми компания в итоге столкнулась при запуске. В отчёте также упоминается то, что команда OpenAI предупреждала о негативных рисках, связанных со слишком ранним выпуском чат-бота Bing на базе ещё не вышедшей версии GPT-4.

Через несколько дней после запуска Bing Chat в феврале пользователи обнаружили, что чат-бот непредсказуем и может оскорблять пользователей, лгать им, и даже утверждать, что опознает в собеседниках своих врагов. После этого Microsoft быстро ограничила ответы Bing Chat, чтобы не дать искусственному интеллекту стать неконтролируемым. Потребовались месяцы работы, чтобы привести чат-бота Bing к тому состоянию, когда он может вести долгий разговор с пользователем без неожиданных выпадов. Тем не менее, он все ещё часто ошибается. The Wall Street Journal сообщает, что OpenAI предупреждала Microsoft о том, что GPT-4 не готова для внедрения в Bing Chat

В отчёте новостного издания также описывается напряжённость в отношениях между двумя компаниями, которые работают вместе и конкурируют в области ИИ. Сообщается, что руководители Microsoft были обеспокоены запуском ChatGPT в прошлом году. По данным WSJ, OpenAI предупредила Microsoft за несколько недель о том, что начнёт публичное тестирование ChatGPT, как раз в тот момент, когда софтверный гигант начал интегрировать модели OpenAI в Bing.

Microsoft и OpenAI имеют довольно уникальное партнёрство, которое привело к некоторому конфликту за кулисами, поскольку две компании одновременно поддерживают и конкурируют друг с другом. Компания лицензирует технологии OpenAI для использования в Bing, Azure, Office, Windows и многих других продуктах.

Microsoft также является эксклюзивным облачным партнёром OpenAI, и облачные сервисы цифрового гиганта обеспечивают работу всех задач OpenAI, включая её продукты, API-сервисы и исследования. В то же время OpenAI разработала свои собственные продукты и API-услуги, которые привлекают тех же клиентов, что и Microsoft. Наконец, ChatGPT является прямым конкурентом Bing Chat.