与 Cherry Studio 集成

Cherry Studio 可接入 GPUStack，使用本地部署的 LLM、向量嵌入和重排序能力。

部署模型

1. 在 GPUStack 界面中打开 Deployments 页面，点击 Deploy Model 部署所需模型，例如：

   • qwen3-instruct-2507
   • qwen2.5-vl-7b
   • bge-m3
   • bge-reranker-v2-m3

2. 在模型的操作菜单中打开 API Access Info，查看接入信息：

创建 API 密钥

1. 打开 Access Control > API Keys 页面，点击 New API Key。
2. 填写名称，点击 Save。
3. 复制 API 密钥并保存，供后续使用。

在 Cherry Studio 中接入 GPUStack

1. 打开 Cherry Studio，进入 Settings → Model Provider，找到并启用 GPUStack，按下图配置：

   • API Key：填写前面复制的 API 密钥。
   • API Host：填写 API Access Info 面板中的 Access URL。

2. 在 GPUStack 提供商配置中点击“Manage”，启用所需模型：

3. 可选：测试 API：

配置完成后，返回 Cherry Studio 首页，即可开始使用模型。

使用 LLM

使用多模态模型

1. 选择多模态模型：

2. 提出多模态问题：

使用向量嵌入和重排序改进知识库问答

1. 打开知识库配置页面：

2. 添加知识库：

3. 向知识库添加内容，下面以“Notes”为例：

4. 返回首页，使用知识库问答：