状态
搁置
进度
25%
开始
2026-08-31
归档
本地运行
RTX 5060 8GB 上跑 1.7B LM 完整模型 + vLLM。硬性约束是不以性能换降级 —— 曾卡在等待模型响应,根因是默认 thinking 模式叠加 74% CPU offload,最终深挖根因根治。
PythonPyTorchvLLMGradio
本地运行中,暂无公开地址← 回到项目
状态
搁置
进度
25%
开始
2026-08-31
归档
本地运行
RTX 5060 8GB 上跑 1.7B LM 完整模型 + vLLM。硬性约束是不以性能换降级 —— 曾卡在等待模型响应,根因是默认 thinking 模式叠加 74% CPU offload,最终深挖根因根治。