故障排查
查看 GPUStack 日志
默认配置下,可通过以下命令查看 GPUStack 日志:
启用调试模式
运行 GPUStack 时,可通过 --debug 参数启用 DEBUG 模式:
也可在运行期间,在 Server 容器内执行以下命令启用 GPUStack 调试模式:
--debug 启用详细日志,不会启动 Python 内存分配追踪。如需分析内存,请在启动 GPUStack 前设置 GPUSTACK_DEBUG_ENABLE_TRACEMALLOC=true。该设置默认为 false,独立于 --debug,修改后需要重启。内存追踪会增加 CPU 和内存开销,建议在排查内存问题时启用。
配置日志级别
日志级别端点要求身份认证。
可在运行期间,在 Server 容器内执行以下命令配置 GPUStack Server 的日志级别。使用管理员 API key 进行身份认证:
GPUStack Worker 同样适用。使用本地 Worker token 进行身份认证(默认路径为 /var/lib/gpustack/worker_token):
可用的日志级别为:trace、debug、info、warning、error、critical。
重置管理员密码
如果忘记管理员密码,可在 Server 容器内执行以下命令重置:
如果启动 GPUStack 时通过 --port 修改了默认端口,请使用 --server-url 参数指定 GPUStack URL。此命令必须在 Server 本机运行,并通过 localhost 访问:
协助诊断加速器检测
按照安装指南成功部署 GPUStack Worker 后,\ 如果 Worker 未能检测到设备,\ 请进入相应 Worker 容器执行以下命令,并将结果反馈给 GPUStack。
协助诊断模型部署
如果部署模型后遇到问题, 请进入相应 Worker 容器执行以下命令,并将结果反馈给 GPUStack。