Microsoft активно работает над внедрением усовершенствованной версии модели GPT-4 Turbo в свой ИИ-помощник Copilot, ранее известный как Bing Chat. Основное нововведение — это расширенный контекст до 128 тыс. токенов, что соответствует примерно 300 страницам текста.
Руководитель веб-сервисов и рекламы Microsoft Михаил Парахин уточнил, что Copilot ещё не использует GPT-4 Turbo из-за необходимости исправления некоторых ошибок.
Текущий лимит Copilot составляет 5 тыс. символов на чат, но с GPT-4 Turbo он значительно возрастет. По словам Парахина, это улучшение пользуется спросом у пользователей, желающих большего контекстного пространства для общения.
Парахин также отметил, что GPT-4 Turbo превосходит стандартную модель GPT-4 по «воспринимаемому интеллекту», что является мерой взаимодействия системы с пользователем. Для запуска модели Microsoft планирует исправить ошибки в математических и программных функциях. Благодаря высокой пропускной способности, GPT-4 Turbo сможет обслуживать больше пользователей с меньшими задержками.
OpenAI представила GPT-4 Turbo в ноябре, обновив базу данных модели до апреля 2023 года. GPT-4 Turbo оптимизирована по производительности, снижая стоимость выходных токенов в три раза (до $0,01) и в два раза для входных токенов по сравнению с основной моделью (до $0,03).
