API Anahtar Yönetimi
GPUStack, API anahtarlarını kullanarak kimlik doğrulamayı destekler. Her GPUStack kullanıcısı kendi API anahtarlarını oluşturabilir ve yönetebilir.
API Anahtarı Oluşturun
Access Control>API Keyssayfasına gidin.Add API Keydüğmesine tıklayın.- API anahtarının
Name,Descriptionalanlarını doldurun veExpiration'yi seçin. - API anahtarının
Type'ını seçin:
- Otomatik olarak oluşturulan: GPUStack sizin için API anahtarını oluşturur.
- Custom:
Keyalanına kendi anahtar değerinizi girin. Custom seçilirken bu alan gereklidir. Hiçbir zaman hatırlamak zorunda kalmayacağınız bir şifre gücünde bir değer seçin; aşağıdaki nota bakın.
Access Permissionsbölümünde API anahtarının izinlerini seçin:
- Platform Yönetimi: Platform yönetimi uç noktalarına (kullanıcılar, modeller, çalışanlar vb.) erişim sağlar.
- Model Erişimi: Çıkarım API'lerine erişim izni verir. Seçildiğinde
All modelsveyaAllowed models'yi seçin veAllowed models'i seçerseniz listeden bu API anahtarının hangi modellere erişebileceğini seçin.
Hiçbir izin seçilmezse API anahtarının erişim izni yoktur. 6. Save düğmesine tıklayın. 7. Anahtarı kopyalayıp güvenli bir yere saklayın, ardından Done düğmesine tıklayın.
Not
Tam API anahtarı değeri oluşturulduktan sonra yalnızca bir kez gösterilir; daha sonra yalnızca maskelenmiş bir değer görüntülenir. Özel anahtarlar istisnadır; onların değerini zaten biliyorsunuz.
Özel tuşlar sizin onlara verdiğiniz gücü taşır
GPUStack herhangi bir dizeyi özel anahtar olarak kabul eder ve 123456'den rastgele bir dizeyi ayırt edemez. Otomatik olarak oluşturulan anahtarlar, kriptografik rastgele bir kaynaktan gelen 128 bittir ve daha zayıf hiçbir şey asla kazara yaratılmaz.
Bu fark, bariz tahminin ötesinde önemlidir: Anahtarların sunucu yerine API ağ geçidinde doğrulanması için GPUStack, her anahtarın hızlı bir karmasını ağ geçidinin yapılandırmasına yayınlar; bu, onu orada okuyabilen herkes tarafından görülebilir ve teşhis paketleri halinde seyahat eder. Hash'in tuzsuz olduğu ve sırdan başka hiçbir şeye bağlı olmadığı özel bir anahtar için, bu nedenle her dağıtımda aynı değere sahiptir; bir kez oluşturulan önceden hesaplanmış bir tablo hepsine karşı çalışır. Rastgele bir anahtarın aranması her iki durumda da mümkün olmadığından etkilenmez, tahmin edilebilir bir anahtarın ise çevrimdışı kurtarılması ucuz hale gelir.
Mümkün olduğunda özel anahtarları rastgele bir kaynaktan üretin. İnsanların elle seçtiği anahtarlar için GPUSTACK_GATEWAY_AUTH_ALLOW_CUSTOM_KEYS=false ayarlayın. Böylece özel anahtarlar eskisi gibi her istekte sunucuda doğrulanır ve karma değerleri yayımlanmaz. Ağ geçidine yalnızca bu kimlikte bir anahtarın var olduğu ve ne zaman sona ereceği bildirilir; bu bilgi, sunucu kapalıyken de anahtarı iptal edebilmeyi sağlar.
Bu ayar yalnızca yeni anahtarlar için değil, halihazırda var olan anahtarlar için de geçerlidir: bunu kapatmak, bir sonraki mutabakat sırasında açıkken oluşturulan özel anahtarların karmalarını geri çeker.
Erişim İzinlerini Düzenle
Access Control>API Keyssayfasına gidin.- Düzenlemek istediğiniz API anahtarını bulun.
OperationssütunundakiEditdüğmesine tıklayın.- Gerekirse
Description'ı güncelleyin. Access Permissionsbölümünde seçilen izinleri ayarlayın:
- Platform Yönetimi: Platform yönetimi uç noktalarına (kullanıcılar, modeller, çalışanlar vb.) erişim sağlar.
- Model Erişimi: Çıkarım API'lerine erişim izni verir. Seçildiğinde
All modelsveyaAllowed models'yi seçin veAllowed models'i seçerseniz listeden bu API anahtarının hangi modellere erişebileceğini seçin.
Savedüğmesine tıklayın.
Not
Değişiklikler bir dakika içinde geçerli olacaktır.
API Anahtarını Sil
Access Control>API Keyssayfasına gidin.- Silmek istediğiniz API anahtarını bulun.
OperationssütunundakiDeletedüğmesine tıklayın.- Silme işlemini onaylayın.
Sunucu Kullanılamıyorken Anahtarı İptal Etme
Normalde bir anahtarın silinmesi yeterlidir: sunucu API ağ geçidine bilgi verir ve anahtarın kabulü birkaç saniye içinde durdurulur. Bu bölüm yalnızca bir anahtarın now çalışmayı durdurması gerektiği ve GPUStack sunucusunun kapalı olduğu (örneğin yükseltme sırasında) durumlar içindir.
Ağ geçidi kabul edebileceği anahtarların kendi kopyasını tutar; böylece sunucu kullanılamadığında çıkarım hizmeti devam eder. Bu kopya sunucuda değil Kubernetes'te bulunduğundan sunucu olmadan da düzenlenebilir:
Anahtarın spec.defaultConfig.local_auth altındaki kaydını kaldırın. Kayıt genellikle keys içindedir ve anahtarın erişim anahtarıyla, yani otomatik üretilen gpustack_<access key>_<secret> değerinin orta bölümüyle indekslenir. Özel anahtarda erişim anahtarı bulunmaz; bunun yerine keys içinde sahibinin sayısal user_id değerini arayın veya exp değerini anahtarın sona erme zamanı ile eşleştirin.
GPUSTACK_GATEWAY_AUTH_ALLOW_CUSTOM_KEYS'in false olarak ayarlandığı yerde, özel anahtarlar bunun yerine refs'dedir ve API'de gösterildiği gibi anahtarın sayısal kimliğine göre indekslenir.
Her ikisinde de bulunmayan bir anahtar, zaten her istekte sunucuya soruyor, dolayısıyla kaldırılacak bir şey yok - sunucu geri döndüğü anda çalışmayı durduruyor ve silme işlemini gerçekleştiriyor.
Değişiklik, kaydedildikten birkaç saniye sonra ağ geçidine ulaşır; kaynakta yapılan diğer değişikliklerle aynı şekilde seyahat eder. Halihazırda yayında olan oturumlar da kapsam dahilindedir: Ağ geçidinin sunucuya sormadan kabul ettiği her şey ilk olarak bu girişlere göre yeniden kontrol edilir, dolayısıyla bir tanesinin kaldırılması onu her yerde aynı anda geçersiz kılar.
Uyarı
Bu geçici bir önlemdir, kalıcı iptal değildir. Sunucu başladıktan birkaç saniye sonra listeyi veritabanından yeniden oluşturur; dolayısıyla yalnızca buradan kaldırılan anahtar, sunucu geri geldiğinde yeniden geçerli olur. Sunucu kullanılabilir olduğunda anahtarı normal yoldan da silin.
Not
Kaynağı düzenlemek, ağ geçidinin çalıştığı kümeye erişim gerektirir ve yukarıdaki higress-system varsayılan ağ geçidi ad alanıdır; değiştirilmişse sizinkiyle değiştirin. GPUStack veritabanını doğrudan değiştirmek desteklenen bir alternatif değildir ve dağıtımın tutarsız olmasına neden olabilir.
Bu ad alanını kimler okuyabilir?
Aynı kaynak, ağ geçidinin dahili kimlik token'larını imzaladığı anahtarı da içerir. Ağ geçidinin ad alanındaki kaynakları okuyabilen biri böyle bir token üretip herhangi bir kullanıcı olarak kabul edilebilir. Bu nedenle buradaki okuma erişimini platform düzeyinde yetki olarak değerlendirin ve buna göre verin.
API Anahtarını Kullan
GPUStack, API anahtarının taşıyıcı token olarak kullanılmasını destekler.
OpenAI uyumlu GET /v1/models uç noktası, yalnızca kullanıcı ve mevcut organizasyon bağlamı tarafından görülebilen hazır modelleri döndürür. API anahtarı izin verilen modellerle sınırlıysa liste, herhangi bir kuruluş öneki de dahil olmak üzere (örneğin, team-a/qwen3) bu model kimliklerine göre daha fazla filtrelenir. Bu aynı zamanda eski GET /v1-openai/models uç noktası ve yöneticiler tarafından oluşturulan anahtarlar için de geçerlidir. Ayarlanmamış veya boş bir allowed_model_names listesi hiçbir ek model kısıtlaması getirmez.
Aşağıda curl'un kullanıldığı bir örnek verilmiştir: