アプリケーション カードとは
GitHub’s application and platform cards are intended to help you understand how our AI technology works, the choices application owners can make that influence application performance and behavior, and the importance of considering the whole application, including the technology, the people, and the environment. Application cards are created for AI applications and platform cards are created for AI platform services. These resources can support the development or deployment of your own applications and can be shared with users or stakeholders impacted by them.
As part of its commitment to responsible AI, GitHub adheres to Microsoft's six core principles: fairness, reliability and safety, privacy and security, inclusiveness, transparency, and accountability. These principles are embedded in the Responsible AI Standard, which guides teams in designing, building, and testing AI applications. Application and Platform Cards play a key role in operationalizing these principles by offering transparency around capabilities, intended uses, and limitations. For further insight, readers are encouraged to explore Microsoft’s Responsible AI Transparency Report and GitHub 条件.
GitHub Enterprise Serverの場合、このアプリケーション カードは、secret scanningの汎用シークレット検出にのみ適用されます。
1. 概要
このアプリケーション カードには、次のエクスペリエンスが含まれます。
- 汎用シークレット検出: モデルを使用して、確定的なパターン マッチングでは見つからないソース コード内の非構造化シークレットを識別します。
シークレット スキャンの一般的なシークレット検出は、ソース コードやその他のGitHubサーフェスで非構造化シークレットを識別し、アラートを生成する、AI を利用したシークレット スキャンの拡張です。 GitHub Secret Protection と GitHub Advanced Security ユーザーは、ソース コードで見つかったパートナーまたはカスタム パターンのシークレット スキャン アラートを既に受け取ることができますが、非構造化シークレットを簡単に検出することはできません。 シークレット スキャンでは、モデルを使用してこれらのシークレットを識別します。 結果が検出されると、(リポジトリ、組織、または企業の セキュリティ タブの下にある) シークレット スキャン アラートの "汎用" リストにアラートが表示されます。そのため、保守担当者とセキュリティ マネージャーはアラートを確認し、必要に応じて資格情報を削除したり、修正プログラムを実装したりできます。 一般的なシークレット検出では、GitHub Copilot サブスクリプションは必要ありません。
GitHub Code Security AI 機能でサポートされている主な言語は英語です。
2. 主な用語
次の一覧は、GitHub Code Security AI 機能に関連する主な用語の用語集です。
- シークレット スキャンの AI 検出: 一般的なシークレット検出を含む、シークレット スキャンを拡張する AI を利用した機能。 GitHub Copilot サブスクリプションは必要ありません。
- 一般的なシークレット検出: パートナーまたはカスタム パターンでカバーされていない非構造化シークレット (パスワードなど) の AI 識別。 一般的なシークレット検出では、モデルを使用して、ソース コード内のパスワードのような文字列をスキャンします。
3. 主な機能
ここで説明する主な機能は、Code Security AI の機能GitHub何を行うように設計されているか、およびサポートされているタスク全体でそれらの機能がどのように実行されるかを説明します。
- AI を利用したパスワード検出: シークレット スキャンの汎用シークレット検出では、AI を使用してリポジトリのコンテンツをスキャンし、確定的なパターン マッチングでは見つからない非構造化シークレット (パスワードなど) を特定します。 検出されたシークレットは、[ タブの下のシークレット スキャン アラート リストにアラートとして表示されます。
4. 使用目的
GitHub Code Security AI 機能は、さまざまな業界の複数のシナリオで使用できます。 ユース ケースの例を次に示します。
- ソース コードで漏洩したパスワードを検出する: 一般的なシークレット検出を使用して、パートナーとカスタム シークレットのスキャン パターンの範囲外にあるリポジトリ内の非構造化シークレットを見つけます。
- コンテキスト アラートを使用して資格情報をトリアージする: パスワードが検出されると、アラートの一覧に AI 検出コンテキストを含むアラートが表示され、保守担当者とセキュリティ マネージャーが検索を確認してアクションを実行できるようになります。
5. モデルとトレーニング データ
一般的なシークレット検出では、モデルを使用して非構造化シークレットをスキャンします。
6. パフォーマンス
AI シークレット検出 は入力を処理し、次のように出力を生成します。
- 入力処理: 入力は、ユーザーがリポジトリにチェックインしたテキスト (通常はコード) に制限されます。 システムは、このテキストをモデルに提供し、入力のスコープ内で非構造化シークレットを検索するようモデルに求めるメタ プロンプトを提供します。 ユーザーはモデルと直接対話しません。 単一の検出結果を検証するために、複数のモデルを使用できます。
- モデル分析: モデルは、パスワードなどの非構造化シークレットに似た文字列をスキャンします。
- 応答の生成: モデルは、応答に含まれる識別された文字列が実際に入力に存在することを確認します。
- 出力の書式設定: 検出された文字列は、通常のシークレット スキャン アラートとは別のリストのシークレット スキャン アラート ページにアラートとして表示されます。 各アラートは、それが AI によって検出されたことを示します。 汎用シークレットのアラートを表示する方法については、 シークレット スキャンからのアラートの表示とフィルター処理 を参照してください。
7. 制限事項
GitHub Code Security の AI 機能の制限事項を理解することは、その機能が安全かつ効果的な範囲内で使用されているかどうかを判断するうえで重要です。 革新的なソリューションやアプリケーションで GitHub Code Security AI 機能を活用することをお勧めしますが、GitHub Code Security AI 機能は、考えられるすべてのシナリオ向けに設計されたわけではないことに注意してください。 ユース ケースを選択する際には、 GitHub 条件 と次の考慮事項を参照することをお勧めします。
AI シークレット検出に固有の制限事項
- 不完全なレポート: AI シークレットの検出では、リポジトリにチェックインされた資格情報のインスタンスが見逃される可能性があります。 シークレットの AI 検出は、時間の経過と同時に改善されます。 コードのセキュリティ確保に関する最終的な責任はユーザーにあります。
- テスト コード: AI シークレット検出では、テスト コード内のシークレットが検出されない場合があります。 シークレット スキャンは、次のような特定の条件が満たされたときに検出をスキップします。
- ファイル パスに "test"、"mock"、または "spec" が含まれています
- ファイル拡張子が
.cs、.go、.java、.js、.kt、.php、.py、.rb、.scala、.swiftまたは.tsである。
8. 評価
パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠、関連性、一貫性などの要因を調べることで、AI アプリケーションが確実かつ安全に動作しているかどうかを評価します。 以下の評価は、既に実施されている安全コンポーネントを用いて行ったが、これも9に記載されている 。安全コンポーネントと軽減策。
リスクと安全性の評価
AI によって生成されるコンテンツに関連する潜在的なリスクを評価することは、重大度が異なるコンテンツ リスクから保護するために不可欠です。 これには、有害なコンテンツの生成や脱獄攻撃の脆弱性のテストに対する AI アプリケーションの素因の評価が含まれます。 GitHubでは、Microsoft Foundry</c0 からコーディング目的に適合するものも含め、パフォーマンス評価を実施>。
- 憎しみと不公平さ
- 性的
- Violence
- 自傷行為
- 保護材料
- 脱獄
- コードの脆弱性
品質と安全性に関する評価データ
当社の評価データは、 安全性 と 品質の重要な領域全体で AI アプリケーションのパフォーマンスを評価し、実際のシナリオとリスクをシミュレートするためにカスタム構築されています。 私たちは、多分野にわたる研究と専門家の意見に基づいて、懸念事項の関連評価の側面を特定することから始めます。 これらの懸念は、対象となる評価目標に変換され、評価メトリックの策定をガイドします。 safetyでは、望ましくない応答またはエッジケース応答を引き出す敵対的なプロンプトを作成し、その後、GitHubの標準との整合性を評価するためにトレーニングされた AI 支援アノテーターを使用してスコア付けされます。 品質を高めるために、取得拡張生成 (RAG) アプリケーションとエージェントの評価など、シナリオに関連するルーブリックベースのプロンプトを作成します。 データセットは、実際のユーザー シナリオをシミュレートするために、合成データセットやパブリック データセットなど、さまざまなソースからキュレーションされます。 キュレーションされたデータセットを使用すると、両方の評価が反復的に改良され、人間のアライメントが行われ、メトリックの有効性と信頼性が向上します。 この手法は、顧客が評価を使用してより優れた AI を構築する方法を反映した、反復可能で厳格な評価の基礎を形成します。
カスタム評価
AI シークレット検出は責任ある AI Red Teaming の対象であり、GitHubは時間の経過と同時に機能の有効性と安全性を監視し続けます。
9. 安全コンポーネントと軽減策
- 偽陽性フィードバック ループ: ユーザーが汎用シークレット検出アラートを閉じ、理由として「偽陽性」を選択すると、GitHub はその偽陽性の件数を基にモデルを改善します。 GitHubは、シークレット リテラル自体にアクセスできません。
10. GitHub Code Security AI 機能のデプロイと導入に関するベスト プラクティス
責任ある AI は、GitHubとその顧客の間で共有されるコミットメントです。 GitHubは、安全性、公平性、透明性を中核に AI アプリケーションを構築しますが、お客様は、独自のコンテキスト内で責任を持ってこれらのテクノロジをデプロイおよび使用する上で重要な役割を果たします。 このパートナーシップをサポートするために、デプロイ者とエンド ユーザーが責任ある AI を効果的に実装できるように、次のベスト プラクティスを提供します。
-
重大な判断やセンシティブな領域で GitHub Security の AI 機能を使用する際は、注意を払い、結果を評価してください: 結果的な決定とは、教育、雇用、金融プラットフォーム、政府のベネフィット、医療、住宅、保険、法的プラットフォームへの個人のアクセスに法的または重大な影響を与える可能性のあるもの、または物理的、精神的、または財政的損害をもたらす可能性がある決定です。 金融プラットフォーム、医療、住宅などの機密性の高いドメインでは、さまざまなグループに不釣り合いな影響を与える可能性があるため、特に注意が必要です。 これらの分野の意思決定に AI を使用する場合は、影響を受けた利害関係者が意思決定の方法を理解し、意思決定をアピールし、関連する入力データを更新できることを確認します。
-
法的および規制上の考慮事項を評価する: お客様は、AI プラットフォームとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界またはシナリオでの使用に適していない可能性があります。 さらに、AI プラットフォームまたはソリューションは、該当するサービス条件および関連する行動規範で禁止されている方法で設計されておらず、使用されない場合があります。
-
誤検知アラートを適切に閉じる: AI シークレット検出ではパートナー パターン検出よりも多くの誤検知が生成される可能性があるため、各アラートの精度を確認します。 アラートが誤検知であることが確認されたら、アラートを閉じて、GitHub UI で理由を "誤検知" としてマークします。 このフィードバックは、モデルの改善に役立ちます。
-
必要に応じて人間の監視を実行する: 人間の監視は、AI アプリケーションと対話するときの重要なセーフガードです。 AI アプリケーションは継続的に改善されますが、AI は間違いを犯す可能性があります。 生成される出力は、不正確、不完全、バイアス、ずれ、または目的の目標とは無関係である可能性があります。 これは、入力のあいまいさや基になるモデルの制限など、さまざまな理由が原因で発生する可能性があります。 そのため、ユーザーは、GitHub Code Security AI 機能によって生成された応答を確認し、期待と要件に一致することを確認する必要があります。
-
過度の依存のリスクに注意してください。 AI への過剰な依存は、ユーザーが誤った AI 出力または不完全な AI 出力を受け入れた場合に発生します。これは、主に、AI 出力の間違いを検出するのが難しい可能性があるためです。 エンド ユーザーの場合、過度の依存により、生産性の低下、信頼の喪失、アプリケーションの破棄、財務上の損失、心理的損害、身体的危害などが生じる可能性があります。 (たとえば、医師が不適切な AI 出力を受け入れる)。
-
機密性の高いドメインでエージェント AI を設計する場合は、注意が必要です。 ユーザーは、エージェントアクションが元に戻せないか、非常に結果的である機密性の高いドメインでエージェント AI アプリケーションを設計またはデプロイするときは注意を払う必要があります。 GitHub 条件 で詳しく説明されているように、自律エージェント AI を作成する際にも、追加の予防措置を講じる必要があります。
-
シークレット検出の誤検知ボリュームを評価する: 誤検知ボリュームを評価し、アラート一覧のトリアージ プロセスを確立します。
11. GitHubセキュリティ AI 機能の詳細を確認する
GitHub Security AI 機能の責任ある使用に関する追加のガイダンスについては、次のドキュメントを確認することをお勧めします。
- 追加の製品および機能に適用される GitHub 条件
- シークレット スキャン
- AI によるシークレット検出のスキャンを有効にする
- シークレット スキャン アラートの管理
- エンタープライズのコード セキュリティと分析のためのポリシーの適用