Использование API-ключей провайдера LLM с Copilot

Вы можете добавить свои собственные API-ключи в GitHub Copilot и дать командам возможность использовать предпочитаемые вами поставщики больших языковых моделей (LLM) с GitHub Copilot Чат.

Поддерживаются ключи API от следующих поставщиков:

• Антропик
• Бедрок AWS
• Google AI Studio
• Microsoft Foundry
• Открытый ИИ
• Провайдеры, совместимые с OpenAI
• xAI

Также поддерживаются тонко настроенные модели, но функциональность и качество результатов могут варьироваться в зависимости от настройки тонкой настройки. Перед использованием в производстве стоит протестировать модель и внимательно изучить её результаты.

Зачем использовать собственные ключи API?

В качестве владелец организации у вас могут быть конкретные требования к управлению, безопасности данных и соответствию требованиям. Настройка собственных API-ключей позволяет адресовать:

•         **Управление и соответствие требованиям.** Выберите поставщики LLM, которые соответствуют политикам и нормативным требованиям вашей организации.
  

•         **Управление затратами:** выравнивайте существующие методы оплаты, контракты, кредиты или согласованные ставки и избегайте превышения использования.
  

•         **Видимость и управление.** Управление моделями, к которым ваша команда может получить доступ, и отслеживать использование с помощью существующих панелей мониторинга и выставления счетов поставщика.
  

•         **Гибкость.** Поддержка пользовательских или специализированных моделей, которые уже использует ваша организация.
  

Добавление ключа в аккаунт организации

После того как вы добавили свой ключ и выбрали одну или несколько моделей, вы и члены вашей организации сможете использовать их с GitHub Copilot Чат. Ваши модели будут отображаться внизу раздела выбора моделей под названием организации.

1. В правом верхнем углу GitHub, щелкните рисунок профиля, а затем выберите октикона "организация" aria-hidden="true" aria-label="organization" %} Ваши организации.

2. Рядом с организацией щелкните Параметры.

3. На боковой панели в разделе "Код, планирование и автоматизация" щелкните Copilot.

4. В разделе «Copilot» нажмите «Модели».

5. Нажмите на вкладку «Пользовательские модели ».

6. Над списком API-ключей нажмите клавишу Add API.

7. В разделе «Провайдер» выберите провайдера LLM, которого вы хотите использовать.

8. В разделе «Имя» введите имя для этого ключа. Это будет показано в picker моделей.

9. В разделе «API key» введите или вставьте свой ключ.

10. В зависимости от того, какого провайдера вы используете, выбирайте или добавляйте модели.

    • Если вы используете OpenAI, Anthropic или xAI, нажмите в поле текста ключа API, чтобы получить модели, связанные с вашим ключом. Далее, в разделе «Доступные модели» выберите модели, которые хотите использовать.

      

    • Если вы используете Microsoft Foundry, введите URL вашего развертывания в поле под разделом «URL развертывания». Далее, в поле под разделом «Доступные модели» введите Model ID и нажмите , чтобы добавить его.

      Если у ваших моделей разные URL-адреса развертывания, их нельзя добавить в один и тот же ключ API. Создайте отдельный API-ключ для каждого URL развертывания.

      

11. После выбора или добавления моделей, которые хотите сделать доступными, нажмите «Сохранить».

Дополнительные материалы

•         [AUTOTITLE](/copilot/how-tos/administer-copilot/manage-for-enterprise/use-your-own-api-keys) в нашей документации для корпоративных счетов.
  

•         [AUTOTITLE](/copilot/concepts/chat)