Verwenden Ihrer LLM-Anbieter-API-Schlüssel mit Copilot

Erfahren Sie, wie Sie Ihre bevorzugten benutzerdefinierten Modelle mit GitHub Copilot integrieren, indem Sie Ihre eigenen LLM-API-Schlüssel verwenden und diese für Organisationen in Ihrem Unternehmenskonto verfügbar machen.

In diesem Artikel

Hinweis

Die Möglichkeit, Ihre eigenen API-Schlüssel in GitHub Copilot zu verwenden, befindet sich in öffentliche Vorschau und unterliegt Änderungen.

Sie können Ihre eigenen API-Schlüssel zu GitHub Copilot hinzufügen und Teams ermöglichen, ihre bevorzugten Anbieter großer Sprachmodelle (LLM) mit GitHub Copilot Gespräch und GitHub Copilot-CLI zu verwenden.

API-Schlüssel aus den folgenden Anbietern werden unterstützt:

  • Anthropic
  • AWS Bedrock
  • Google AI Studio
  • Microsoft Foundry
  • OpenAI
  • OpenAI-kompatible Anbieter
  • xAI

Auch feinabgestimmte Modelle werden unterstützt, jedoch können Funktionalität und Qualität der Ergebnisse je nach Feinabstimmungskonfiguration variieren. Sie sollten Ihr Modell testen und seine Ausgaben sorgfältig überprüfen, bevor Sie es in der Produktion verwenden.

Warum solltest du deine eigenen API-Schlüssel nutzen?

Als Unternehmensbesitzer verfügen Sie möglicherweise über spezifische Anforderungen für Governance, Datensicherheit und Compliance. Durch das Einrichten Ihrer eigenen API-Schlüssel können Sie Folgendes adressieren:

  • Governance und Compliance: Du kannst LLM-Anbieter auswählen, die die Richtlinien und rechtlichen Anforderungen deiner Organisation erfüllen.
  • Kostenverwaltung: Du kannst vorhandene Zahlungsmethoden, Verträge, Gutschriften oder vereinbarte Tarife nutzen und eine Überschreitung der Nutzungsdauer vermeiden.
  • Sichtbarkeit und Kontrolle: Du kannst steuern, auf welche Modelle dein Team zugreifen kann, und die Nutzung über vorhandene Dashboards und Abrechnungen deines Anbieters überwachen.
  • Flexibilität: Du kannst benutzerdefinierte oder spezialisierte Modelle unterstützen, die deine Organisation bereits verwendet.

Hinzufügen Ihres Schlüssels zu einem Unternehmenskonto

Wichtig

Es wird dringend empfohlen, das Prinzip der geringsten Rechte zu befolgen, und den API-Schlüsseln nur die erforderlichen Mindestgeltungsbereiche zuzuweisen.

Nachdem Sie Ihren Schlüssel hinzugefügt und ein oder mehrere Modelle ausgewählt haben, können Sie und Mitglieder Ihrer Organisation sie mit GitHub Copilot Gespräch und GitHub Copilot-CLI verwenden. Ihre Modelle werden unten in der Modellauswahl unter dem Unternehmensnamen angezeigt.

  1. Navigieren Sie zu Ihrem Unternehmen. Beispielsweise auf der Seite Unternehmen in GitHub.com.

  2. Klicken Sie oben auf der Seite auf AI-Steuerelemente.

  3. Klicken Sie in der Randleiste auf Copilot.

  4. Klicken Sie auf "Zulässige Modelle konfigurieren".

  5. Klicken Sie auf die Registerkarte "Benutzerdefinierte Modelle ".

  6. Klicken Sie oberhalb der Liste der API-Schlüssel auf "API-Schlüssel hinzufügen".

  7. Wählen Sie unter "Anbieter" den LLM-Anbieter aus, den Sie verwenden möchten.

  8. Geben Sie unter "Name" einen Namen für diesen Schlüssel ein. Dies wird in der Modellauswahl angezeigt.

  9. Geben Sie unter "API-Schlüssel" Ihren Schlüssel ein, oder fügen Sie ihn ein.

  10. Je nachdem, welchen Anbieter Sie verwenden, wählen Sie Modelle aus, oder fügen Sie sie hinzu.

    • Wenn Sie OpenAI, Anthropic oder xAI verwenden, klicken Sie im API-Schlüsseltextfeld auf im Feld mit dem API-Schlüsseltext, um die dem Schlüssel zugeordneten Modelle abzurufen. Wählen Sie als Nächstes unter "Verfügbare Modelle" die Modelle aus, die Sie verwenden möchten.

      Screenshot des Formulars "API-Schlüssel hinzufügen" Die Schaltfläche "Neue Modelle abrufen" ist mit einer orangefarbenen Kontur hervorgehoben.

    • Wenn Sie Microsoft Foundry verwenden, geben Sie Ihre Bereitstellungs-URL in das Feld unter "Bereitstellungs-URL" ein. Geben Sie als Nächstes in das Feld unter "Verfügbare Modelle" eine Modell-ID ein, und klicken Sie auf , um es hinzuzufügen.

      Wenn Ihre Modelle unterschiedliche Bereitstellungs-URLs haben, können sie nicht demselben API-Schlüssel hinzugefügt werden. Erstellen Sie einen separaten API-Schlüssel für jede Bereitstellungs-URL.

      Screenshot des Formulars "API-Schlüssel hinzufügen" Das Modelltextfeld und die Schaltfläche "Modell hinzufügen" sind mit einer orangefarbenen Kontur hervorgehoben.

  11. Nachdem Sie die Modelle ausgewählt oder hinzugefügt haben, die Sie verfügbar machen möchten, klicken Sie auf "Speichern".

Verwalten der Verfügbarkeit von benutzerdefinierten Modellen in Ihren Organisationen

Sie können auswählen, ob die hinzugefügten Modelle organisationen in Ihrem Unternehmenskonto zur Verfügung stehen.

  1. Navigieren Sie zu Ihrem Unternehmen. Beispielsweise auf der Seite Unternehmen in GitHub.com.
  2. Klicken Sie oben auf der Seite auf AI-Steuerelemente.
  3. Klicken Sie in der Randleiste auf Copilot.
  4. Klicken Sie auf "Zulässige Modelle konfigurieren".
  5. Klicken Sie auf die Registerkarte "Benutzerdefinierte Modelle ".
  6. Klicken Sie oberhalb der Liste der API-Schlüssel auf die Registerkarte "Hinzugefügte Modelle ".
  7. Klicken Sie neben einem Modell auf "Konfigurieren". Wenn Organisationen bereits access zum Modell haben, müssen Sie anstelle von "Konfigurieren" auf All organizations oder X organizations klicken.
  8. Klicken Sie im geöffneten Modalfenster auf die Registerkarte Access.

    Hinweis

    Das Modell muss auf "Aktiviert" festgelegt werden, bevor die Registerkarte "Access" verfügbar ist.

  9. Wählen Sie aus, wie das Modell Organisationen zur Verfügung gestellt werden soll:
    • Um das Modell für alle Organisationen in Ihrem Unternehmenskonto verfügbar zu machen, wählen Sie "Für alle Organisationen zulassen" aus.
    • Um das Modell nur für bestimmte Organisationen verfügbar zu machen, wählen Sie "Pro Organisation auswählen" aus, und aktivieren oder deaktivieren Sie die unten aufgeführten Organisationen.
  10. Klicken Sie auf "Speichern".

Weiterführende Lektüre