Copilot와 함께 LLM 공급자 API 키 사용

사용자 고유의 LLM API 키를 사용하여 선호하는 사용자 지정 모델을 GitHub Copilot 통합하고 엔터프라이즈 계정의 조직에서 사용할 수 있도록 하는 방법을 알아봅니다.

이 기사에서

참고

GitHub Copilot에 사용자 고유의 API 키를 가져오는 기능은 공개 미리 보기에 있으며 변경될 수 있습니다.

사용자 고유의 API 키를 GitHub Copilot에 가져오고, 팀이 원하는 대규모 언어 모델(LLM) 공급자를 공동 파일럿 채팅, 코파일럿 CLI 및 VS Code와 함께 사용할 수 있도록 할 수 있습니다.

다음 공급자의 API 키가 지원됩니다.

  • 인위적
  • AWS 베드록
  • Google AI Studio
  • Microsoft Foundry
  • OpenAI
  • OpenAI 호환 공급자
  • xAI

미세 조정된 모델도 지원되지만, 미세 조정 설정에 따라 기능 및 결과 품질이 달라질 수 있습니다. 프로덕션 환경에서 사용하기 전에 모델을 테스트하고 출력을 신중하게 검토해야 합니다.

참고

이 문서에서는 엔터프라이즈 소유자가 구성한 사용자 지정 모델을 설명합니다. 코파일럿 CLI 및 VS Code 사용자는 각자의 LLM 키를 로컬에서 사용할 수도 있습니다. GitHub Copilot CLI에서 사용자 고유의 LLM 모델 사용 및 기본 제공 공급자에서 모델 추가는 VS Code 설명서를 참조하세요.

사용자 고유의 API 키를 가져오는 이유는 무엇인가요?

엔터프라이즈 소유자는 거버넌스, 데이터 보안 및 규정 준수에 대한 특정 요구 사항이 있을 수 있습니다. 사용자 고유의 API 키를 설정하면 다음을 해결할 수 있습니다.

  • 거버넌스 및 규정 준수: 조직의 정책 및 규정 요구 사항을 준수하는 LLM 공급자를 선택합니다.
  • 비용 관리: 기존 결제 방법, 계약, 크레딧 또는 협상된 요금에 맞게 조정하고 사용량 초과를 방지합니다.
  • 가시성 및 제어: 팀이 액세스할 수 있는 모델을 관리하고 공급자의 기존 대시보드 및 청구를 통해 사용량을 모니터링합니다.
  • 유연성: 조직에서 이미 사용하고 있는 사용자 지정 또는 특수 모델을 지원합니다.

엔터프라이즈 계정에 키 추가

중요

필요한 최소 범위만 API 키에 할당하여 최소 권한 원칙을 준수하는 것을 적극 권장합니다.

키를 추가하고 하나 이상의 모델을 선택하면 귀하와 귀하의 조직 구성원은 공동 파일럿 채팅, 코파일럿 CLI 및 VS Code에서 해당 모델을 사용할 수 있습니다. 모델은 기업 이름 아래에 있는 모델 선택기 맨 아래에 표시됩니다.

참고

조직의 구성원이 타사 모델을 사용하려면 정책에서 Visual Studio Code사용자 고유의 언어 모델 키 가져오기를 VS Code 사용하도록 설정해야 합니다. 자세한 내용은 .의 Copilot 설정 페이지를 참조하세요 GitHub.com.

  1. 귀하의 기업으로 이동하세요. 예를 들어 GitHub.com의 Enterprises 페이지에서.

  2. 페이지 맨 위에서 AI 컨트롤을 클릭합니다.

  3. 사이드바에서 을 클릭합니다 Copilot.

  4. 허용되는 모델 구성을 클릭합니다.

  5. 사용자 지정 모델 탭을 클릭합니다.

  6. API 키 목록 위에서 API 키 추가를 클릭합니다.

  7. "공급자"에서 사용하려는 LLM 공급자를 선택합니다.

  8. "이름" 아래에 이 키의 이름을 입력합니다. 모델 선택기에서 표시됩니다.

  9. "API 키"에서 키를 입력하거나 붙여넣습니다.

  10. 사용 중인 공급자에 따라 모델을 선택하거나 추가합니다.

    • OpenAI, Anthropic 또는 xAI를 사용하는 경우 API 키 텍스트 필드에서 을 클릭하여 키와 연결된 모델을 가져옵니다. 다음으로, "사용 가능한 모델"에서 사용하려는 모델을 선택합니다.

      "API 키 추가" 양식의 스크린샷 "새 모델 가져오기" 단추는 주황색 윤곽선으로 강조 표시됩니다.

    • Microsoft Foundry를 사용하는 경우 "배포 URL" 아래의 필드에 배포 URL을 입력합니다. 그런 다음, "사용 가능한 모델" 아래의 필드에 모델 ID를 입력하고 를 클릭하여 추가합니다.

      모델에 다른 배포 URL이 있는 경우 동일한 API 키에 추가할 수 없습니다. 각 배포 URL에 대해 별도의 API 키를 만듭니다.

      "API 키 추가" 양식의 스크린샷 모델 텍스트 필드와 "모델 추가" 단추는 주황색 윤곽선으로 강조 표시됩니다.

  11. 사용할 모델을 선택하거나 추가한 후 [저장]을 클릭합니다.

조직에서 사용자 지정 모델의 가용성 관리

추가한 모델을 엔터프라이즈 계정의 조직에서 사용할 수 있는지 여부를 선택할 수 있습니다.

  1. 귀하의 기업으로 이동하세요. 예를 들어 GitHub.com의 Enterprises 페이지에서.
  2. 페이지 맨 위에서 AI 컨트롤을 클릭합니다.
  3. 사이드바에서 을 클릭합니다 Copilot.
  4. 허용되는 모델 구성을 클릭합니다.
  5. 사용자 지정 모델 탭을 클릭합니다.
  6. API 키 목록 위에서 모델 추가 탭을 클릭합니다.
  7. 모델 옆에 있는 구성을 클릭합니다. 이미 조직이 모델에 대한 접근 권한을 보유하고 있는 경우, "구성" 대신 모든 조직 또는 X 조직을 클릭해야 합니다.
  8. 열리는 모달에서 Access 탭을 클릭합니다.

    참고

    "Access" 탭을 사용하려면 먼저 모델을 '활성화'로 설정해야 합니다.

  9. 조직에서 모델을 사용할 수 있는 방법을 선택합니다.
    • 엔터프라이즈 계정의 모든 조직에서 모델을 사용할 수 있도록 하려면 모든 조직에 대해 허용을 선택합니다.
    • 특정 조직에서만 모델을 사용할 수 있도록 하려면 조직별로 선택을 선택하고 아래에 나열된 조직을 확인하거나 선택 취소합니다.
  10. 저장을 클릭합니다.

추가 읽기