Перейти к содержанию

Интеграция с Claude Code

Claude Code — это инструмент агентного кодирования от Anthropic. Поскольку развертывание моделей в GPUStack совместимо с Anthropic API, вы можете легко подключить Claude Code к развертыванию GPUStack и использовать его для задач генерации кода. В этом руководстве мы рассмотрим шаги по интеграции Claude Code с GPUStack и протестируем интеграцию, попросив Клода создать игру Flappy Bird.

Предварительные условия

  • Один или несколько графических процессоров с общей видеопамятью не менее 100 ГБ.
  • GPUStack установлен и запущен.
  • Доступ к Hugging Face или ModelScope для загрузки файлов моделей.

Примечание

В этом руководстве один графический процессор NVIDIA H200 используется для обслуживания модели Qwen3-Coder-Next с квантованием FP8.

Развертывание модели

  1. В пользовательском интерфейсе GPUStack перейдите на страницу Каталог моделей.

  2. Найдите Qwen3-Coder-Next и разверните модель, используя конфигурацию по умолчанию.

Каталог моделей

  1. После развертывания модель готова для вывода с использованием API, совместимого с Anthropic.

Модель готова

Создайте ключ API.

  1. Перейдите на страницу Контроль доступа > Ключи API, затем нажмите Добавить ключ API.

  2. Введите имя, затем нажмите Сохранить.

  3. Скопируйте ключ API и сохраните его для дальнейшего использования.

Ключ API

Установка Claude Code

Следуйте инструкциям документации по Claude Code, чтобы установить Claude Code в вашу систему.

Установите CC-Switch (дополнительно)

Чтобы легко переключаться между разными поставщиками моделей, вы можете использовать CC-Switch или аналогичные инструменты. Этот шаг не является обязательным — вы также можете настроить Claude Code вручную или использовать другой инструмент по вашему выбору.

Установите CC-Switch согласно документации.

Настройка Claude Code для GPUStack

  1. Откройте CC-Switch и добавьте собственного провайдера со следующими настройками:
  • Имя поставщика: GPUStack
  • Конечная точка API: URL-адрес вашего сервера GPUStack.
  • Ключ API: ключ API, который вы создали ранее.
  1. Настройте все модели на использование qwen3-coder-next.

Настройка переключателя CC

Проверьте интеграцию

  1. Создайте новый каталог и запустите Claude Code:
1
2
mkdir flappybird && cd flappybird
claude

  1. Убедитесь, что конфигурация правильна, используя команду /status.

  2. Попробуйте выполнить типовое задание, например, попросите Claude Code создать игру Flappy Bird:

1
Write a Flappy Bird game.

Результат кода Клода

  1. После завершения работы Claude Code откройте сгенерированный HTML-файл в браузере, чтобы проверить результат.

Игра Flappy Bird

Заключение

В этом руководстве мы успешно интегрировали Claude Code с GPUStack и использовали его для создания игры Flappy Bird. Теперь вы можете решать более сложные задачи кодирования с помощью Claude Code и использовать возможности GPUStack для эффективного обслуживания моделей.