注意
针对 GitHub 上的组织,通过 GitHub Models 创建自己的密钥 (BYOK) 以使用自定义模型的功能,目前处于公共预览版阶段,未来可能会有所变更。
模型支持目前仅限于 OpenAI 和 AzureAI。
可以在 GitHub Models 中使用自己的 API 密钥 (BYOK),并使团队能够通过 Prompts、Playground 和 Models in Actions 等工具使用您首选的大型语言模型 (LLM) 提供商。 有关GitHub Models的详细信息,请参阅 关于GitHub模型。
若要了解计费和定价,请参阅 GitHub模型计费。
为什么使用自己的 API 密钥?
作为组织所有者,你可能对治理、数据安全性和合规性有特定要求。 通过设置自己的 API 密钥,可以:
-
**治理和合规性:** 选择符合组织策略和法规要求的 LLM 提供商。 -
**成本管理:** 与现有的付款方式、合同、信用额度或协商费率保持一致,避免使用超额。 -
**可见性和控制:** 管理团队可以访问的模型,并通过提供商现有的仪表板和计费系统监控使用情况。 -
**灵活性:** 支持组织已使用的自定义或专用模型。
设置 API 密钥以添加自定义模型
重要
强烈建议仅向 API 密钥分配必要的最小范围,以遵守最低特权原则。
必须先为组织添加相关的 API 密钥。 之后,你可以指定或启用要提供给用户的自定义模型。
添加 API 密钥
- 在 GitHub 的右上角,单击个人资料图片,然后单击“ Your organizations”****。
- 在组织旁边,单击“设置”。
- 在边栏的“Code, planning, and automation”部分,单击“ Models”下拉菜单****。 然后单击“Custom models”****。 “Custom Models”页显示添加到组织的 API 密钥和自定义模型。
- 单击“Add API key”****。
- 在“Add the API key”对话框中,提供有关密钥的详细信息。 “Name”和“API key”为必填字段。********
- 单击“ 保存”。
启用自定义模型
数据reusables.profile.access_org %}数据reusables.profile.org_settings %}1. 在边栏的“Code, planning, and automation”部分,单击“ Models”下拉菜单****。 然后单击“Development”****。
- 在“Models permissions”下,选择“All publishers”以启用通过 API 密钥添加的模型。****
- 如果此选项不可用,则需要允许在组织中使用该模型。 请参阅 管理团队的模型使用情况。
- (可选)选择“仅选择模型”以创建已启用或已禁用的模型的自定义列表****。 这使你能够控制组织可用的模型。
创建启用或禁用的模型列表
要控制组织可用的模型,请按如下方式创建启用或禁用的模型列表:
数据reusables.profile.access_org %}数据reusables.profile.org_settings %}1. 在边栏的“Code, planning, and automation”部分,单击“ Models”下拉菜单****。 然后单击“Development”****。
- 在“模型权限”下,选择仅选择模型,然后从下拉列表中选择启用列表以创建允许的模型列表。
- (可选)如果要创建阻止的模型列表,请从下拉列表中选择“禁用列表”****。
- 在模型表上方,点击“添加模型或发布者”****。
- 在“选择要允许的模型和发布者”对话框中,选择要包含在列表中的模型和发布者。
- 单击更新启用列表以保存更改。
后续步骤
在 GitHub Models 中启用自定义模型后,请了解如何:
-
在操场中试验自定义模型。 请参阅在实验平台中使用 AI 模型进行试验。
-
在 GitHub 上存储提示,以便你可以循环访问以微调提示,并与利益干系人共享它们。 请参阅 在 GitHub 存储库中存储提示。
-
启动 AI 应用程序。 请参阅 进入生产阶段。