Sorun giderme

GPUStack Günlüklerini Görüntüle

Varsayılan kurulum için GPUStack günlüklerini aşağıdaki komutlarla görüntüleyebilirsiniz:

docker logs -f gpustack

Hata Ayıklama Modunu Etkinleştir

GPUStack'i çalıştırırken --debug bayrağını ayarlayarak DEBUG modunu etkinleştirebilirsiniz:

sudo docker run -d --name gpustack \
    ...
    gpustack/gpustack \
+    --debug
    ...

GPUStack'in hata ayıklama modunu çalışma zamanında sunucu kapsayıcısı içinde aşağıdaki komutu çalıştırarak da etkinleştirebilirsiniz:

gpustack reload-config --set debug=true

--debug, Python bellek ayırma izlemeyi başlatmadan ayrıntılı günlük kaydını etkinleştirir. Bellek profillemesini etkinleştirmek için GPUStack başlamadan önce GPUSTACK_DEBUG_ENABLE_TRACEMALLOC=true ayarlayın. Varsayılan değer false olur; bu ayar --debug seçeneğinden bağımsızdır ve yeniden başlatma gerektirir. İzleme CPU ve bellek yükünü artırdığından, bellek kullanımını araştırırken etkinleştirin.

Günlük Düzeyini Yapılandır

Günlük düzeyindeki uç noktalar kimlik doğrulama gerektirir.

sunucu kapsayıcısı içinde aşağıdaki komutu çalıştırarak GPUStack sunucusunun günlük düzeyini çalışma zamanında yapılandırabilirsiniz. Yönetici API anahtarıyla kimlik doğrulaması yapın:

curl -X PUT http://localhost/debug/log_level \
    -H "Authorization: Bearer <YOUR_API_KEY>" \
    -d "debug"

Aynı durum GPUStack çalışanları için de geçerlidir. Yerel çalışan jetonuyla kimlik doğrulama yapın (varsayılanı /var/lib/gpustack/worker_token'dır):

curl -X PUT http://localhost:10150/debug/log_level \
    -H "Authorization: Bearer $(cat /var/lib/gpustack/worker_token)" \
    -d "debug"

Mevcut günlük seviyeleri şunlardır: trace, debug, info, warning, error, critical.

Yönetici Şifresini Sıfırla

Yönetici şifresini unutmanız durumunda, sunucu kapsayıcısı içinde aşağıdaki komutu çalıştırarak şifreyi sıfırlayabilirsiniz:

1	`gpustack reset-admin-password`

GPUStack'i başlatırken --port kullanarak varsayılan bağlantı noktasını değiştirdiyseniz, --server-url parametresini kullanarak GPUStack URL'sini belirtin. Sunucuda yerel olarak çalıştırılmalı ve localhost üzerinden erişilmelidir:

gpustack reset-admin-password --server-url http://localhost:9090

Hızlandırıcı Tespit Teşhisine Yardımcı Olun

GPUStack Worker'ı kurulum kılavuzunda açıklandığı gibi başarıyla dağıttıktan sonra, Çalışan herhangi bir cihazı tespit edemezse, lütfen ilgili Worker kapsayıcısını girin, aşağıdaki komutu çalıştırın ve sonuçları GPUStack'e bildirin.

time GPUSTACK_RUNTIME_LOG_LEVEL=debug GPUSTACK_RUNTIME_LOG_EXCEPTION=1 gpustack-runtime detect --format json

Model Dağıtım Teşhisine Yardımcı Olun

Bir modeli dağıttıktan sonra sorunlarla karşılaşırsanız lütfen ilgili Worker kapsayıcısına girin, aşağıdaki komutu çalıştırın ve sonuçları GPUStack'e bildirin.

gpustack-runtime inspect <model instance name>