适合谁

想在自己电脑上跑大模型、不想把数据都传到云端、或者想离线也能用 AI 的朋友。Ollama 的好处是安装简单、模型多、支持 Windows、macOS、Linux，还能通过 API 接到自己的应用里。

第一步：安装 Ollama

• Windows：去官网下载安装包，双击按提示安装，装完建议把安装目录加入系统 PATH。
• macOS：下载对应安装包安装即可。
• Linux：用一键脚本安装，装完用 systemd 管理服务，可以用 systemctl 查看状态、设置开机自启。

装完后打开浏览器访问本地 11434 端口，看到 Ollama is running 就说明服务起来了。

第二步：拉取模型

Ollama 的模型都在官方模型库里，按需选大小。新手建议先从 7B-8B 的小模型开始，对显存和内存要求低，跑起来快。

常用命令：

• 拉模型：ollama pull 模型名
• 看本地模型：ollama list
• 跑模型对话：ollama run 模型名
• 看正在运行的模型：ollama ps
• 删模型：ollama rm 模型名

比如先拉一个 7B 模型，跑起来聊两句，确认能正常回答，再考虑换更大的。

第三步：常用配置

• 服务地址：通过 OLLAMA_HOST 设置，默认只监听本地。如果想让局域网其他设备访问，设为 0.0.0.0，但要注意内网安全。
• 模型存放路径：通过 OLLAMA_MODELS 设置，方便统一管理磁盘空间。
• 跨域：如果要给网页应用调用，需要设置 OLLAMA_ORIGINS。

Linux 下用 systemd 方式启动时，改配置要编辑 service 文件，改完执行 daemon-reload 再 restart 才会生效。

第四步：接 API 做自己的应用

Ollama 提供本地 API，比如查看版本、查看本地模型、查看运行中模型等。你可以把对话接口接到自己的聊天界面、知识库问答或 Agent 里，不用每次都走云端 API。

避坑提醒

1. 先看硬件：内存、显存、硬盘空间够不够，小模型先跑通再升级。
2. 不要一上来就拉几十 GB 的大模型，先验证流程。
3. 局域网开放访问时记得做权限控制，不要直接裸奔到公网。
4. 模型回答不满意时，先检查提示词和参数，而不是盲目换模型。

来源

• Ollama 完全指南整理：https://blog.csdn.net/huang9604/article/details/155571074
• LobeHub Ollama 使用文档：https://github.com/mooreliving777/lobehub/blob/HEAD/docs/usage/providers/ollama.zh-CN.mdx