Использование API-ключей провайдера LLM с Copilot

Узнайте, как интегрировать ваши предпочтённые пользовательские модели с GitHub Copilot, используя собственные ключи LLM API, и сделайте их доступными для организаций в вашем корпоративном аккаунте.

В этой статье

Примечание.

Возможность переносить собственные API-ключи в GitHub Copilot находится в public preview и может измениться.

Вы можете добавить свои собственные API-ключи в GitHub Copilot и дать командам возможность использовать предпочитаемые вами поставщики больших языковых моделей (LLM) с GitHub Copilot Чат.

Поддерживаются ключи API от следующих поставщиков:

  • Антропик
  • Бедрок AWS
  • Google AI Studio
  • Microsoft Foundry
  • Открытый ИИ
  • Провайдеры, совместимые с OpenAI
  • xAI

Также поддерживаются тонко настроенные модели, но функциональность и качество результатов могут варьироваться в зависимости от настройки тонкой настройки. Перед использованием в производстве стоит протестировать модель и внимательно изучить её результаты.

Зачем использовать собственные ключи API?

Как владелец предприятия, у вас могут быть конкретные требования к управлению, безопасности данных и соблюдению требований. Настройка собственных API-ключей позволяет адресовать:

  •         **Управление и соответствие требованиям.** Выберите поставщики LLM, которые соответствуют политикам и нормативным требованиям вашей организации.

  •         **Управление затратами:** выравнивайте существующие методы оплаты, контракты, кредиты или согласованные ставки и избегайте превышения использования.

  •         **Видимость и управление.** Управление моделями, к которым ваша команда может получить доступ, и отслеживать использование с помощью существующих панелей мониторинга и выставления счетов поставщика.

  •         **Гибкость.** Поддержка пользовательских или специализированных моделей, которые уже использует ваша организация.

Добавление ключа в корпоративный аккаунт

Внимание

Мы настоятельно рекомендуем придерживаться принципа наименьшей привилегии, назначив только минимальные необходимые области ключам API.

После того как вы добавили ключ и выбрали одну или несколько моделей, вы и члены вашей организации сможете использовать их с GitHub Copilot Чат. Ваши модели будут отображаться внизу списка выбора моделей, под названием enterprise.

  1. В верхней части страницы нажмите Управление AI.

  2. В боковой панели нажмите Copilot.

  3.        **Нажмите «Настроить разрешённые модели**».

  4. Нажмите на вкладку «Пользовательские модели ».

  5. Над списком API-ключей нажмите клавишу Add API.

  6. В разделе «Провайдер» выберите провайдера LLM, которого вы хотите использовать.

  7. В разделе «Имя» введите имя для этого ключа. Это будет показано в picker моделей.

  8. В разделе «API key» введите или вставьте свой ключ.

  9. В зависимости от того, какого провайдера вы используете, выбирайте или добавляйте модели.

    • Если вы используете OpenAI, Anthropic или xAI, нажмите в поле текста ключа API, чтобы получить модели, связанные с вашим ключом. Далее, в разделе «Доступные модели» выберите модели, которые хотите использовать.

      Скриншот формы «Добавить ключ API». Кнопка «Fetch new models» выделена оранжевым контуром.

    • Если вы используете Microsoft Foundry, введите URL вашего развертывания в поле под разделом «URL развертывания». Далее, в поле под разделом «Доступные модели» введите Model ID и нажмите , чтобы добавить его.

      Если у ваших моделей разные URL-адреса развертывания, их нельзя добавить в один и тот же ключ API. Создайте отдельный API-ключ для каждого URL развертывания.

      Скриншот формы «Добавить ключ API». Поле текста модели и кнопка «Добавить модель» выделены оранжевым контуром.

  10. После выбора или добавления моделей, которые хотите сделать доступными, нажмите «Сохранить».

Управление доступностью индивидуальных моделей в ваших организациях

Вы можете выбрать, доступны ли добавленные вами модели для организаций в вашем корпоративном аккаунте.

  1. В верхней части страницы нажмите Управление AI.
  2. В боковой панели нажмите Copilot.
  3.        **Нажмите «Настроить разрешённые модели**».
  4. Нажмите на вкладку «Пользовательские модели ».
  5. Над списком ключей API нажмите вкладку «Добавленные модели ».
  6. Рядом с моделью нажмите «Настроить». Если у каких-либо организаций уже есть access к модели, вместо «Конфигурировать» нужно нажать All organizations или X organizations.
  7. В открывающейся модале нажмите вкладку Access.

    Примечание.

    Модель должна быть установлена в режим «Включено», прежде чем вкладка «Access» станет доступна.

  8. Выбирайте, как модель должна быть доступна организациям:
    • Чтобы сделать модель доступной для всех организаций в вашем корпоративном аккаунте, выберите «Разрешить для всех организаций».
    • Чтобы сделать модель доступной только для конкретных организаций, выберите «Выбрать для каждой организации» и отметьте или снимите галочки из перечисленных ниже организаций.
  9. Нажмите кнопку Сохранить.

Дополнительные материалы

  •         [AUTOTITLE](/copilot/how-tos/administer-copilot/manage-for-organization/use-your-own-api-keys) в нашей документации для организаций.

  •         [AUTOTITLE](/copilot/concepts/chat)