Ollama 本地大模型部署

云 API 用起来爽，但账单会膨胀、数据会外流、合规会卡壳、网络抖动会 504。医疗、法律、金融这些敏感场景根本不能把提示词送到别人家的机器；高频调用的后台批处理，每月几千刀的 token 费也扛不住；网络不稳的边缘设备、内网隔离的企业环境，更是连 API 都够不到。

Ollama 的主张只有一句：一条 ollama run 让顶级开源模型跑在你自己的电脑上。背后帮你做的事很多——模型格式统一（GGUF）、量化版本自动选择、GPU 加速（Metal/CUDA/ROCm）、REST 服务自举、OpenAI 兼容协议、Modelfile 定制、并发调度。这门教程从首次安装讲到生产部署，十章把本地 LLM 当成一个真实基础设施来讲透。