Skip to main content

Copilot와 함께 LLM 공급자 API 키 사용

원하는 사용자 지정 모델을 사용자 고유의 LLM API 키를 사용하여 GitHub Copilot와 통합하고 조직 구성원이 사용할 수 있도록 하는 방법을 알아봅니다.

참고

GitHub Copilot에 사용자 고유의 API 키를 가져오는 기능은 공개 미리 보기에 있으며 변경될 수 있습니다.

사용자 고유의 API 키를 GitHub Copilot에 가져오고, 팀이 원하는 대규모 언어 모델(LLM) 공급자를 깃허브 코파일럿 채팅 및 GitHub Copilot 명령 줄 인터페이스 (CLI)와 함께 사용할 수 있도록 할 수 있습니다.

다음 공급자의 API 키가 지원됩니다.

  • 인위적
  • AWS 베드록
  • Google AI Studio
  • Microsoft Foundry
  • OpenAI
  • OpenAI 호환 공급자
  • xAI

미세 조정된 모델도 지원되지만, 미세 조정 설정에 따라 기능 및 결과 품질이 달라질 수 있습니다. 프로덕션 환경에서 사용하기 전에 모델을 테스트하고 출력을 신중하게 검토해야 합니다.

사용자 고유의 API 키를 가져오는 이유는 무엇인가요?

조직 소유자는 거버넌스, 데이터 보안, 규정 준수와 관련하여 특정한 요구 사항을 가지고 있을 수 있습니다. 사용자 고유의 API 키를 설정하면 다음을 해결할 수 있습니다.

  • 거버넌스 및 규정 준수: 조직의 정책 및 규정 요구 사항을 준수하는 LLM 공급자를 선택합니다.
  • 비용 관리: 기존 결제 방법, 계약, 크레딧 또는 협상된 요금에 맞게 조정하고 사용량 초과를 방지합니다.
  • 가시성 및 제어: 팀이 액세스할 수 있는 모델을 관리하고 공급자의 기존 대시보드 및 청구를 통해 사용량을 모니터링합니다.
  • 유연성: 조직에서 이미 사용하고 있는 사용자 지정 또는 특수 모델을 지원합니다.

조직 계정에 키 추가

중요

필요한 최소 범위만 API 키에 할당하여 최소 권한 원칙을 준수하는 것을 적극 권장합니다.

키를 추가하고 하나 이상의 모델을 선택하면, 사용자와 조직 구성원이 깃허브 코파일럿 채팅 및 GitHub Copilot 명령 줄 인터페이스 (CLI)에서 해당 모델을 사용할 수 있습니다. 모델은 조직 이름 아래, 모델 선택기 맨 아래에 표시됩니다.

  1. GitHub의 오른쪽 위 모서리에서 프로필 사진을 클릭한 다음, Your organizations를 클릭합니다.

  2. 조직을 클릭하여 선택합니다.

  3. 조직 이름에서 설정을 클릭합니다. "설정" 탭이 표시되지 않으면 드롭다운 메뉴를 선택한 다음 설정을 클릭합니다.

    조직 프로필에 있는 여러 탭의 스크린샷. "설정" 탭이 진한 주황색으로 표시됩니다.

  4. 사이드바의 "Code, planning, and automation"에서 Copilot 를 클릭하세요.

  5. "Copilot"에서 모델을 클릭합니다.

  6.        **사용자 지정 모델** 탭을 클릭합니다.
    
  7. API 키 목록 위에서 API 키 추가를 클릭합니다.

  8. "공급자"에서 사용하려는 LLM 공급자를 선택합니다.

  9. "이름" 아래에 이 키의 이름을 입력합니다. 모델 선택기에서 표시됩니다.

  10. "API 키"에서 키를 입력하거나 붙여넣습니다.

  11. 사용 중인 공급자에 따라 모델을 선택하거나 추가합니다.

    • OpenAI, Anthropic 또는 xAI를 사용하는 경우 API 키 텍스트 필드에서 을 클릭하여 키와 연결된 모델을 가져옵니다. 다음으로, "사용 가능한 모델"에서 사용하려는 모델을 선택합니다.

      "API 키 추가" 양식의 스크린샷 "새 모델 가져오기" 단추는 주황색 윤곽선으로 강조 표시됩니다.

    • Microsoft Foundry를 사용하는 경우 "배포 URL" 아래의 필드에 배포 URL을 입력합니다. 그런 다음, "사용 가능한 모델" 아래의 필드에 모델 ID를 입력하고 를 클릭하여 추가합니다.

      모델에 다른 배포 URL이 있는 경우 동일한 API 키에 추가할 수 없습니다. 각 배포 URL에 대해 별도의 API 키를 만듭니다.

      "API 키 추가" 양식의 스크린샷 모델 텍스트 필드와 "모델 추가" 단추는 주황색 윤곽선으로 강조 표시됩니다.

  12. 사용할 모델을 선택하거나 추가한 후 [저장]을 클릭합니다.

추가 읽기