Cherry Studio ile entegrasyon

Cherry Studio, yerel olarak barındırılan LLM'lerden, gömme modellerinden ve yeniden sıralama özelliklerinden yararlanmak için GPUStack ile entegre olur.

Modelleri Dağıtma

1. GPUStack kullanıcı arayüzünde, Deployments sayfasına gidin ve ihtiyacınız olan modelleri dağıtmak için Deploy Model'e tıklayın. İşte bazı örnek modeller:

   • qwen3-instruct-2507
   • qwen2.5-vl-7b
   • bge-m3
   • bge-reranker-v2-m3

2. Modelin Operasyonlarında, bu modelle nasıl entegre edileceğini görmek için API Access Info'ı açın:

API Anahtarı Oluşturun

1. Access Control > API Keys sayfasına gidin ve ardından New API Key'ye tıklayın.

2. Adı girin ve ardından Save'a tıklayın.

3. API anahtarını kopyalayın ve daha sonra kullanmak üzere kaydedin.

GPUStack'i Cherry Studio'ya entegre etme

1. Cherry Studio'yu açın, Settings → Model Provider'e gidin, GPUStack'i bulun, etkinleştirin ve gösterildiği gibi yapılandırın:

   • API Key: Önceki adımlardan kopyaladığınız API anahtarını girin.

   • API Host: API Access Info panelinde Access URL.

2. GPUStack sağlayıcı yapılandırmasında "Yönet"e tıklayın ve ihtiyacınız olan modelleri etkinleştirin:

3. (İsteğe bağlı) API'yi test edin:

Yapılandırma sonrasında Cherry Studio ana sayfasına dönün ve modellerinizi kullanmaya başlayın.

LLM'leri Kullanmak

Multimodal Modellerin Kullanımı

1. Çok modlu bir model seçin:

2. Çok modlu sorular sorun:

Bilgi Bankası Soru-Cevaplarını Geliştirmek için Yerleştirmeleri ve Yeniden Sıralamayı Kullanın

1. Bilgi Bankası yapılandırma sayfasını açın:

2. Bilgi tabanı ekleyin:

Ekle

3. Bilgi tabanına içerik ekleyin (örnek olarak “Notlar”ı kullanarak):

4. Ana sayfaya dönün ve bilgi tabanını kullanın Soru-Cevap: