将 LLM 模型添加到 GitHub Copilot 应用

除了 GitHub Copilot app 提供的模型外，还可以使用“自带密钥”(BYOK) 配置 GitHub 以包含所选 LLM 提供程序中的模型。 您可以在首次打开应用时设置模型提供商，也可以稍后在应用设置中进行设置。

配备 NVIDIA GPU 且内存充足的 Windows 用户可以在其设备上本地安装 GitHub Copilot app 和 MAI Code 1.1 Flash 模型，并直接在 Flint NVFP4 中进行安装。

您必须使用 GitHub 帐户登录才能使用该应用，但如果您使用自己的模型提供方，则不需要 Copilot 套餐。 如果确实订阅了 Copilot 套餐，则可以在同一应用中使用自己的模型提供程序中的模型和 GitHub 提供的模型。

使用 BYOK 添加模型

可以使用 BYOK 方法将模型添加到 GitHub Copilot app。

支持的提供程序

GitHub Copilot app 支持以下 BYOK 模型提供程序：

• OpenAI
• Azure OpenAI
• Microsoft Foundry
• Anthropic
• Ollama
• 本地铸造厂
• LM Studio
• 任何与 OpenAI 兼容的 HTTP 终结点

先决条件

必须具有 API 密钥才能添加需要身份验证的模型提供程序。

设置模型提供商

如果你是第一次配置该应用，并且还没有 Copilot 计划，则可以选择在引导设置过程中自行配置模型提供方。

若要在以后添加或更新模型提供程序，请执行以下操作：

1. 单击 以打开“设置”对话框。
2. 在边栏中，单击“ 模型提供程序”。
3. 单击“ 添加提供程序”。
4. 选择你的提供商。
5. 输入提供方详细信息。 这因提供程序而异，但可能包括显示名称、基 URL 和 API 密钥。
6. 单击 “添加提供程序 ”保存提供程序。

添加提供程序后，其模型会与 GitHub 托管的模型一起显示在模型选择器中。 您可以选择该模型并在会话中使用它。 有关详细信息，请参阅“在 GitHub Copilot 应用中使用代理会话”。

提供程序凭据存储在系统凭据存储中，永远不会显示在 UI 中。

从模型选取器安装本地模型

如果使用 Windows，并且计算机满足以下先决条件，则可以从应用的设置中在本地下载并安装以下模型：

• MAI Code 1.1 Flash
• Flint NVFP4

Prerequisites

您必须具备：

• Windows电脑

• 需要 NVIDIA GPU（不支持 AMD）

• 每个模型的最低可用总 RAM：

  • MAI Code 1.1 Flash：  96 GB
  • Flint NVFP4：  48 GB

• 每个模型的最低可用存储空间：

  • MAI Code 1.1 Flash：  60 GB
  • Flint NVFP4：  23 GB

• 已安装 llama.cpp v0.7.0 或更高版本，并将 LLAMACPP_SERVER_PATH 设置为其安装路径。 所需的构建版本：

  • MAI Code 1.1 Flash： b11669 或更高版本
  • Flint NVFP4： b11803 或更高版本

  请参阅安装Windows llama.cpp。

在本地使用 MAI Code 1.1 Flash 的好处

MAI Code 1.1 Flash是一种编码优化模型，可在Windows电脑上本地运行。 通过使用在本地运行的模型，即可离线使用 Copilot 并避免消耗 GitHub AI Credits。

安装 MAI Code 1.1 Flash后，可以从模型选取器中选择它，就像任何其他模型一样。 该模型也可用于 Copilot Fusion 的 Fusion Standard 工作量级别。 当你将模型选择设置为 Copilot Fusion 并使用 Fusion Standard 时，MAI Code 1.1 Flash 将被自动选中来处理适当的任务，为需要更多资源或更高性能的任务保留基于云的模型。

安装用于Windows的llama.cpp

若要在 Windows 上安装使用 CUDA 构建版本的 llama.cpp：

1. 在浏览器中，转到llama.cpp存储库的发布页： https://github.com/ggml-org/llama.cpp/releases

2. 选择要安装的版本，例如 b11803。

3. 单击链接下载适用于 Windows CUDA 13.4 ARM64 版本的这两个文件：

   • Windows arm64 （CUDA 13）
   • CUDA 13.4 DLLs

4. 打开命令提示符并创建安装文件夹：

   Shell

   mkdir "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64"
   

   替换 BUILD 版本号，例如 b11803。

5. 将这两个 ZIP 文件中的所有文件直接提取到此文件夹中。 如果使用文件资源管理器中的 “全部提取”，请将目标更改为此文件夹，因为默认情况下，文件资源管理器会为每个 ZIP 文件创建单独的子文件夹。 完成后，文件夹应包含大量文件，包括 llama-server.exe、cudart64_13.dll、cublas64_13.dll 和 cublasLt64_13.dll，且不包含子文件夹。

6. LLAMACPP_SERVER_PATH设置环境变量：

   Shell

   setx LLAMACPP_SERVER_PATH "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64\llama-server.exe"
   

   正在替换 BUILD 版本号。

7. 关闭命令提示符并打开新的命令提示符窗口。 如果 Copilot app 或 VS Code 已经打开，请重新启动它。 如果 Copilot CLI 正在运行，请退出它，并从新的终端窗口中再次启动它。

8. 要检查安装情况，请运行：

   Shell

   "%LLAMACPP_SERVER_PATH%" --list-devices
   

在 中安装本地模型

1. 单击 以打开“设置”对话框。

2. 在边栏中，单击“ 模型提供程序”。

3. 单击“ 添加提供程序”。

4. 选择Windows ML。

   如果本地计算机满足先决条件，则支持的本地模型将列在“可用模型”下。

5. 单击“下载”以安装所需模型。

6. 使用要使用的最大系统内存百分比滑块来限制 Windows ML 模型可以使用的系统内存量。

7. 启用在应用重启时重新启动模型，以便在重启Copilot app后自动重新启动已下载的 Windows ML 模型。

8. 根据需要更改特定于模型的设置。

使用下载的本地模型

下载完成后，本地模型将可用于会话。

您可以选择以下任一选项：

• 从模型选取器中选择它，方式与选择任何其他可用模型相同。 请参阅“在 中选择模型”。
• MAI Code 1.1 Flash 仅： 选择 Copilot Fusion，然后在 Fusion Standard 模型选取器中选择工作量级别，Copilot 会在适当时自动使用此模型。
• 将其分配给 custom agent，用于专注处理任务。 然后，可以提示 Copilot 将该自定义代理用于某个任务的一部分，同时让主会话继续在云端的另一模型上运行。 请参阅“为 GitHub Copilot CLI 创建和使用自定义智能体”。