GPUStack
Home
English
简体中文
日本語
Русский
Türkçe
Инициализация поиска
gpustack/gpustack
Главная
Лаборатория производительности вывода
Выбор образа контейнера
GPUStack
gpustack/gpustack
Главная
Главная
Обзор
Краткое руководство
Установка
Установка
Требования
Установка через Docker
Установка через Helm
Установка в изолированной среде
Удаление
Обновление
Обновление
Обновление через Docker
Обновление через Helm
Обновление развертывания кластера
Миграция
Руководство пользователя
Руководство пользователя
Песочница
Песочница
Чат
Изображение
Аудио
Эмбеддинги
Переранжирование
Каталог моделей
Управление развертыванием модели
Разделение prefill и decode
Управление маршрутами моделей
Управление провайдерами моделей
Управление движками инференса
Встроенные движки инференса
Управление службой кэширования
OTA-обновления контента
Проверка совместимости
Управление файлами модели
Управление кластером
Сервис GPU
Сервис GPU
Экземпляры GPU
Типы экземпляров
Шаблоны экземпляров
Хранилища
Типы хранилищ
Открытые ключи SSH
Управление облачными учетными данными
Управление ключами API
Управление пользователями
Использование
Аутентификация с помощью единого входа (SSO)
Наблюдаемость
Бенчмаркинг
Использование моделей
Использование моделей
Использование больших языковых моделей
Использование визуально-языковых моделей
Использование эмбеддинг-моделей
Использование моделей переранжирования
Использование моделей генерации изображений
Использование аудиомоделей
Практические руководства
Практические руководства
Запуск DeepSeek R1 671B с распределенной vLLM
Запуск распределённого vLLM с бэкендом MultiProcessing
Запуск DeepSeek R1 671B с распределённым Ascend MindIE
Инференс на CPU
Инференс с вызовом инструментов
Использование собственного движка инференса
Добавление кластера графических процессоров с помощью DigitalOcean
Добавление кластера графических процессоров с помощью Shuihua.
Добавление кластера графических процессоров с помощью Kubernetes
Управление маршрутами моделей
Маршрутизация с политиками балансировки нагрузки
Обслуживание моделей с адаптерами LoRA
Интеграции
Интеграции
API инференса
Интеграция с Claude Code
Интеграция с Dify
Интеграция с RAGFlow
Интеграция с Cherry Studio
Интеграция с OpenClaw
Интеграция с n8n
Интеграция с MaxKB
Интеграция с NewAPI
Интеграция с LiteLLM
Архитектура
Планировщик
Устранение неполадок
Часто задаваемые вопросы
Справочник по API
Справочник по интерфейсу командной строки
Справочник по интерфейсу командной строки
Старт
Загрузка инструментов
Перезагрузка конфигурации
Список образов
Сохранение образов
Загрузка образов
Копирование образов
Переменные среды
Лаборатория производительности вывода
Лаборатория производительности вывода
Обзор
Оптимизация пропускной способности
Оптимизация пропускной способности
Qwen3.5-35B-A3B
Qwen3.5-35B-A3B
H200
Qwen3.5-9B
Qwen3.5-9B
H100
GLM-4.5-Air
GLM-4.5-Air
A100
H100
GLM-4.x
GLM-4.x
A100
H100
H200
GPT-OSS-20B
GPT-OSS-20B
A100
H100
GPT-OSS-120B
GPT-OSS-120B
A100
H100
DeepSeek-R1
DeepSeek-R1
H200
DeepSeek-V3.2
DeepSeek-V3.2
H200
GLM-5.2
GLM-5.2
H200
Qwen3-8B
Qwen3-8B
910B
Qwen3-14B
Qwen3-14B
A100
H100
Qwen3-32B
Qwen3-32B
A100
H100
Qwen3-30B-A3B
Qwen3-30B-A3B
910B
Qwen3-235B-A22B
Qwen3-235B-A22B
A100
H100
Оптимизация задержки
Оптимизация задержки
Qwen3.5-35B-A3B
Qwen3.5-35B-A3B
H200
Qwen3.5-9B
Qwen3.5-9B
H100
Qwen3-8B
Qwen3-8B
H100
Справочные материалы
Справочные материалы
Влияние квантования на производительность вывода vLLM
Оценка ускорения предварительного заполнения LMCache в vLLM
Выбор образа контейнера
Home
К началу