Использование собственных API-ключей в моделях GitHub

Вы можете перенести собственные ключи API (BYOK) в GitHub Models, а также предоставить командам возможность использовать предпочитаемые поставщики больших языковых моделей (LLM) в таких средствах, как запросы, детская площадка и модели в действиях. Для получения дополнительной информации о GitHub Models см. О моделях GitHub.

Чтобы узнать о выставлении счетов и ценообразовании, см. Биллинг моделей GitHub.

Зачем использовать собственные ключи API?

В качестве владелец организации у вас могут быть конкретные требования к управлению, безопасности данных и соответствию требованиям. Настроив собственные ключи API, вы можете:

•         **Управление и соответствие требованиям.** Выберите поставщики LLM, которые соответствуют политикам и нормативным требованиям вашей организации.
  

•         **Управление затратами:** выравнивайте существующие методы оплаты, контракты, кредиты или согласованные ставки и избегайте превышения использования.
  

•         **Видимость и контроль: ** Управляйте, какие модели может access ваша команда, и отслеживайте использование через существующие панели управления и выставление счетов вашего провайдера.
  

•         **Гибкость.** Поддержка пользовательских или специализированных моделей, которые уже использует ваша организация.
  

Настройка ключей API для добавления пользовательских моделей

Сначала необходимо добавить соответствующие ключи API для организации. После этого можно указать или включить пользовательские модели, которые вы хотите сделать доступными для пользователей.

Добавление ключей API

1. В правом верхнем углу GitHub, щелкните рисунок профиля, а затем выберите октикона "организация" aria-hidden="true" aria-label="organization" %} Ваши организации.
2. Рядом с организацией щелкните Параметры.
3. В разделе "Код, планирование и автоматизация" боковой панели щелкните Models . Затем щелкните "Пользовательские модели". На странице "Пользовательские модели" отображаются ключи API и пользовательские модели, добавленные в организацию.
4. Нажмите кнопку "Добавить ключ API".
5. В диалоговом окне "Добавление ключа API" укажите сведения о ключе. Имя и ключ API являются обязательными полями.
6. Нажмите кнопку Сохранить.

Включение пользовательских моделей

1. В правом верхнем углу GitHub, щелкните рисунок профиля, а затем выберите октикона "организация" aria-hidden="true" aria-label="organization" %} Ваши организации.
2. Рядом с организацией щелкните Параметры.
3. В разделе "Код, планирование и автоматизация" боковой панели щелкните раскрывающийся список моделей Models . Затем нажмите кнопку "Разработка".
4. В разделе "Разрешения моделей" выберите "Все издатели ", чтобы включить модели, добавленные ключами API.
   • Если этот параметр недоступен, необходимо разрешить использование модели в организации. См. Управление использованием модели вашей команды.
5. При необходимости выберите только модели , чтобы создать настраиваемый список включенных или отключенных моделей. Это позволяет контролировать, какие модели доступны вашей организации.

Создание списка включенных или отключенных моделей

Чтобы управлять доступными для вашей организации моделями, создайте список включенных или отключенных моделей следующим образом:

1. В правом верхнем углу GitHub, щелкните рисунок профиля, а затем выберите октикона "организация" aria-hidden="true" aria-label="organization" %} Ваши организации.
2. Рядом с организацией щелкните Параметры.
3. В разделе "Код, планирование и автоматизация" боковой панели щелкните раскрывающийся список моделей Models . Затем нажмите кнопку "Разработка".
4. В разделе "Разрешения моделей" выберите только модели, а затем в раскрывающемся списке " Включено ", чтобы создать список разрешенных моделей.
5. При необходимости выберите "Отключено" в раскрывающемся списке, если вы хотите создать список заблокированных моделей.
6. Над таблицей моделей нажмите кнопку "Добавить модели" или "Издатели".
7. В диалоговом окне "Выбор моделей и издателей для разрешения" выберите модели и издатели, которые нужно включить в список.
8. Нажмите кнопку "Обновить включенный список ", чтобы сохранить изменения.

Следующие шаги

Теперь, когда вы включили пользовательские модели в GitHub Models, узнайте, как:

• Экспериментируйте с пользовательской моделью на детской площадке. См. Эксперименты с моделями ИИ на игровой площадке.

• Храните подсказки на GitHub, чтобы можно было дорабатывать подсказки и делиться ими с заинтересованными сторонами. См. Хранение запросов в репозиториях GitHub.

• Запустите приложение ИИ. См. Переход в производство.