两条路跑本地模型，llama.cpp和ollama区别在参数
我现在跑本地模型用两套配置：调参压测走 llama-server，把模型分给同事用 ollama。用下来我的判断很直接：llama.cpp和ollama区别不在支持多少模型格式，而在参数由谁填——一边我自己写在命令行上，一边中间层先补一遍默认值，再转手交给同一个推理引擎。我自己的脚本里这两样都写死了…
- 2026年11月10日
- 13 次