Skip to main content

Messen des Erfolgs einer GitHub Copilot-Testversion

Messen Sie den Erfolg einer Copilot Testversion, indem Sie Einführungs-, Engagement- und frühe Nutzungsmuster mithilfe von Copilot Nutzungsmetriken analysieren.

Wer kann dieses Feature verwenden?

Unternehmensbesitzer, Organisationsverwalter, Rechnungsmanager und Personen mit einer benutzerdefinierten Unternehmensrolle, die über die Berechtigung "Enterprise Copilot Metriken anzeigen" verfügen.

Wenn du eine Copilot-Testversion ausführst, besteht der Schlüssel zum Erfolg im Verstehen, wie Teams Copilot einführen und verwenden. Durch die Kombination der Erkenntnisse aus dem Copilot-Nutzungsmetriken-Dashboard und der API können Sie die ersten Ergebnisse bewerten, den Bedarf an Verbesserungen ermitteln und entscheiden, ob Sie die Einführung ausweiten möchten.

In diesem Tutorial lernen Sie:

  1. Definieren Sie klare Testziele und Erfolgskriterien.
  2. Anzeigen und Interpretieren von Einführungs- und Einsatzdaten im Dashboard.
  3. Bewerten Sie Ihre Testergebnisse.
  4. Integrieren Sie qualitatives Feedback von Entwicklern.
  5. Erweitern Sie Ihre Auswertung über die Copilot Nutzungsmetriken-API.
  6. Entscheiden Sie, ob das Rollout erweitert werden soll.

Schritt 1: Definieren Ihrer Testziele

Bevor Sie Metriken analysieren, entscheiden Sie, welche Ergebnisse eine erfolgreiche Testversion für Ihre Organisation definieren. Das Festlegen klarer Ziele erleichtert die Interpretation von Ergebnissen und die Kommunikation von Werten an die Projektbeteiligten.

BeispielzielWie der Erfolg aussiehtVerknüpfte Metriken
EinführungDie meisten lizenzierten Entwickler aktivieren und verwenden Copilot regelmäßig.Gesamtzahl der aktiven Benutzer, tägliche aktive Benutzer (DAU), wöchentlich aktive Benutzer (WAU)
BindungEntwickler erkunden mehrere Features und Modi.Anforderungen pro Chatfunktion, Agentakzeptanz
Produktivität und ZufriedenheitEntwickler melden Effizienzgewinne und Vertrauen in Vorschläge.Akzeptanzrate, internes Feedback, Zufriedenheitsumfragen
AktivierungseffektivitätTeams verstehen, wie und wann Copilot eingesetzt werden kann.Breite der Verwendung über Sprachen und IDEs hinweg

Schritt 2: Anzeigen von Einführungs- und Engagementmetriken im Dashboard

Das Dashboard zeigt 28 Tage aggregierte IDE-Telemetriedaten für alle lizenzierten Benutzer an. Konzentrieren Sie sich während der Testversion auf diese wichtigen Metriken :

MetricWas es zeigtWarum das wichtig ist
Gesamtzahl der aktiven BenutzerAnzahl der Entwickler, die Copilot mindestens einmal während des Testzeitraums verwendet haben.Gibt die Lizenzaktivierung und die Gesamtreichweite an.
Tägliche aktive Benutzer (DAU)Die Anzahl der eindeutigen Benutzer, die jeden Tag aktiv sind.Zeigt frühzeitige Einführungstrends an – ob Interesse wächst, stabil oder rückläufig.
AgenteneinführungProzentsatz der aktiven Benutzer, die den Copilot-Agent verwendet haben.Zeigt Tiefe des Engagements und der Erkundung über grundlegende Fertigstellungen hinaus.
AkzeptanzrateProzentsatz der akzeptierten Copilot-Vorschläge.Spiegelt Relevanz und Vertrauen wider – Schlüsselindikatoren für Wert und Benutzerzufriedenheit.
Sprach- und ModellverwendungVerteilung der verwendeten Programmiersprachen und -modelle.Hilft dabei, zu ermitteln, wo Copilot den größten Nutzen teamübergreifend bietet.

Verwendungsmetriken-Quellen für Copilot

Schritt 3: Bewerten der Testergebnisse

Vergleichen Sie Ihre Dashboarddaten mit Ihren Testzielen. Zu den allgemeinen Erfolgsindikatoren gehören:

ZielWas zu messen istAnzeichen für Erfolg
LizenzaktivierungGesamtzahl der aktiven Benutzer70 bis 90% von Testlizenzen zeigen die Nutzung innerhalb des ersten Monats an.
Nachhaltiges EngagementTägliche und wöchentlich aktive BenutzerDAU und WAU stabilisieren oder erhöhen sich im Laufe der Zeit.
Breite der NutzungAnforderungen pro Chatfunktion, SprachverwendungBenutzer experimentieren in mehreren Sprachen und Features.
Tiefe der NutzungAgenteneinführung, AkzeptanzrateEntwickler erforschen erweiterte Copilot Funktionen.
Positive RückmeldungenTeamumfragen oder internes FeedbackEntwickler melden Produktivitätsgewinne oder Workflowverbesserungen.

Wenn mindestens ein Ziel nicht erfüllt ist, überlegen Sie, ob vor dem Erweitern des Rollouts möglicherweise zusätzliche Aktivierungs-, Kommunikations- oder IDE-Konfiguration erforderlich ist.

Schritt 4: Integrieren qualitativer Feedback

Während Die Akzeptanz und das Engagement quantitativ sind, helfen Ihnen Zufriedenheitsmetriken, wahrgenommenen Wert und Entwicklerstimmungen zu verstehen. Erwägen Sie die Einbeziehung der folgenden Feedbackquellen von außerhalb von GitHub, in Ihre Analyse.

QuelleDescription
Copilot-Umfragen zur ZufriedenheitRegelmäßiges Feedback von Entwicklern zu Nützlichkeit, Vertrauen und Produktivität.
Interne FeedbackkanäleTeam-Retrospektive oder Impulsumfragen zu Workflowänderungen und wahrgenommenen Geschwindigkeitsgewinnen.
Trends im SupportWeniger "Wie mache ich..." Fragen im Laufe der Zeit deuten oft auf erhöhtes Vertrauen und Zufriedenheit hin.

Durch die Kombination von Nutzungsmetriken mit Entwicklerfeedback erhalten Sie die vollständigste Übersicht über die Auswirkungen von Copilot.

Schritt 5: Erweitern Sie Ihre Auswertung durch die Copilot-Nutzungsmetriken-API

Nach der Testversion können Sie die Akzeptanz und das Engagement weiterhin über die Copilot Nutzungsmetriken-API überwachen. Die API bietet Ihnen mehr Kontrolle darüber, welche Daten Sie sammeln und wie oft Sie sie analysieren.

Abrufen unternehmensweiter Daten

Sie können die Copilot API-Endpunkte für Nutzungsmetriken verwenden, um 28-Tage-Nutzungsberichte für Ihr Unternehmen herunterzuladen. Diese Berichte enthalten denselben Datensatz, der auch im Copilot-Nutzungsmetriken-Dashboard angezeigt wird. Die API stellt zwei Endpunkte bereit.

EndpunktDescription
GET /enterprises/{enterprise}/copilot/metrics/reports/enterprise-28-day/latestGibt einen signierten Downloadlink für den neuesten 28-Tage-Nutzungsbericht auf Unternehmensebene zurück.
GET /enterprises/{enterprise}/copilot/metrics/reports/users-28-day/latestGibt einen signierten Downloadlink für den neuesten 28-tägigen Nutzungsbericht auf Benutzerebene zurück.

Jede Endpunktantwort enthält zeitlich begrenzte signierte URLs zum Herunterladen der Berichte aus Azure Blob Storage sowie den Berichtszeitraum, der von der Datei abgedeckt wird.

Beispielantwort:

{
  "download_links": [
    "https://example.com/copilot-usage-report.json"
  ],
  "report_start_day": "2025-07-18",
  "report_end_day": "2025-08-14"
}

Vollständige Felddefinitionen finden Sie unter GitHub Copilot-Nutzungsmetriken.

Automatisieren Der Berichterstellung

Um Ihre Berichterstellung zu automatisieren, können Sie einen geplanten Auftrag einrichten, um die API in regelmäßigen Abständen (z. B. täglich oder wöchentlich) aufzurufen und die Ergebnisse in einer Datenbank oder data warehouse zur weiteren Analyse zu speichern. Auf diese Weise können Sie Trends im Laufe der Zeit nachverfolgen und benutzerdefinierte Berichte nach Bedarf generieren.

Schritt 6: Entscheiden, ob das Rollout erweitert werden soll

Verwenden Sie Ihre Ergebnisse aus dem Dashboard und API-Daten, um eine fundierte Entscheidung über die Erweiterung der Copilot Nutzung zu treffen.

EntscheidungsbereichWichtige FragenUnterstützende Metriken
EinführungSind die meisten Testbenutzer aktiv? Haben sie Copilot konsequent verwendet?Gesamtzahl der aktiven Benutzer, Tägliche Aktive Nutzer (DAU), Wöchentliche Aktive Nutzer (WAU)
AktivierungsanforderungenBenötigen Teams weitere Anleitungen oder Ressourcen?Niedrige oder inkonsistente Verwendung über Sprachen oder Modelle hinweg
BindungUntersuchen Entwickler Funktionen und Möglichkeiten über grundlegende Vervollständigungen hinaus?Agentakzeptanz, Chatanfragen pro Feature
BefriedigungFinden Teams Copilot wertvoll?Akzeptanzrate, Feedback aus Umfragen

Dokumentieren Sie Ihre Ergebnisse, und teilen Sie sie mit den Projektbeteiligten zusammen, um die nächste Phase Ihres Rollouts zu informieren.

Nächste Schritte

Nachdem Sie nun wissen, wie Sie den Erfolg Ihrer Copilot Testversion messen können, können Sie die Akzeptanz und das Engagement weiterhin überwachen, während Sie die Nutzung erweitern. Weitere Informationen zur Förderung der Akzeptanz und zur Aktivierung von Entwicklern finden Sie unter Fördern der GitHub Copilot-Einführung in Ihrem Unternehmen.