Сведения о моделях GitHub

GitHub Models — это набор средств разработчика, которые поставляют вас из идеи искусственного интеллекта, включая каталог моделей, управление запросами и количественные оценки.

В этой статье

Примечание.

GitHub Models for organizations and repositories is in public preview and subject to change.

Обзор

GitHub Models — это рабочая область, снижающая барьер для внедрения ИИ корпоративного уровня. Это помогает перейти за рамки изолированного эксперимента путем внедрения разработки ИИ непосредственно в знакомые рабочие процессы GitHub. GitHub Models предоставляет средства для тестирования больших языковых моделей (LLM), уточнения запросов, оценки выходных данных и принятия обоснованных решений на основе структурированных метрик. Сведения о начале работы см. в разделе Optimizing your AI-powered app with Models.

Возможности

GitHub Models предлагает набор функций для поддержки итерации, оценки и интеграции для разработки ИИ.

**** Разработка запросов. Запуск разработки ИИ непосредственно в структурированном редакторе, который поддерживает системные инструкции, тестовые входные данные и конфигурацию переменных.
Сравнение моделей. Тестирование нескольких моделей параллельно с одинаковыми запросами и входными данными для экспериментов с различными выходными данными.
Вычислители: используйте метрики оценки, такие как сходство, релевантность и основания для анализа выходных данных и отслеживания производительности.
Конфигурации запроса: сохранение параметров запроса, модели и параметров в качестве .prompt.yml файлов в репозитории. Это обеспечивает проверку, совместную работу и воспроизводимость.
Рабочая интеграция: используйте сохраненную конфигурацию для создания функций ИИ или подключения с помощью пакетов SDK и Пчела.

Включение моделей GitHub

Существует несколько способов начать использовать GitHub Models, в зависимости от вашей роли и потребностей.

Сведения об использовании API GitHub Models см. в статье "Экспериментирование с моделями ИИ с помощью API".

Для индивидуальных пользователей

Чтобы использовать GitHub Models, создайте новый репозиторий GitHub или откройте существующий. В параметрах репозитория щелкните "Модели" на боковой панели и включите эту функцию.

Для организаций и предприятий

Чтобы использовать GitHub Models в организации, владелец предприятия должен сначала включить эту функцию. Затем владельцы организации могут настроить, какие модели разрешены.

См . раздел AUTOTITLE.

Запросы

Управление конфигурациями запроса, хранящимися в репозитории. Каждый запрос сохраняется в виде .prompt.yml файла, который определяет модель, параметры и тестовые входные данные. Здесь можно создавать, изменять и упорядочивать запросы на поддержку экспериментирования или использования в рабочей среде.

Сравнения

Используйте представление "Сравнения", чтобы оценить выходные данные нескольких конфигураций запросов в согласованном тестовом рабочем процессе. Выполняйте тесты по строкам входных данных и оценки оценщика для каждой конфигурации, например сходство, релевантность и заземленность. Это представление идеально подходит для уточнения запросов, проверки изменений и предотвращения регрессии.

Тестовая площадка

Используйте детскую площадку для быстрого изучения моделей и тестирования идей запроса в режиме реального времени. Детская площадка идеально подходит для ранних экспериментов, помогая понять поведение модели, возможности и стиль ответа. Вы можете интерактивно выбирать модели, настраивать параметры и сравнивать ответы параллельно.