云端 AI 编程助手虽好,但代码要出内网、还要按席位付费,对个人和小团队都不太友好。Qwen Code 是一套开源的 AI 编程 CLI,配合本地模型或自托管服务,能把“AI 结对编程”完全装进自己的机器。这篇把完整流程拆开,一步一步来。

适用人群:想把代码留在本地/内网、不想按人头付费的个人开发者和小团队;有一台 Linux/Mac 机器即可起步。

第一步:准备 Node 环境

推荐用 nvm 安装 Node 20,版本可控、切换方便:

curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.40.0/install.sh | bash
# 重新打开终端后
nvm install 20
nvm use 20
node -v   # 确认输出 v20.x

第二步:安装 Qwen Code CLI

全局安装,必要时锁定版本号保证可复现:

npm i -g @qwen-code/cli
qwen --version   # 确认安装成功

第三步:本地模型兜底(Ollama)

断网能用、零成本推理,靠 Ollama 在本地跑一个代码模型:

curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen2.5-coder:32b
ollama list   # 确认模型已就绪

32B 模型对显存有要求;机器吃力的话可以换更小的 7B 版本,先跑起来再说。

第四步:配置双路径环境变量

核心技巧是准备两套配置,按任务随时切换:

# 路径 A:托管 API(速度快、能力强)
export QWEN_API_KEY="你的Key"
export QWEN_MODEL="qwen3-max"

# 路径 B:本地 Ollama(免费、离线)
export OPENAI_BASE_URL="http://localhost:11434/v1"
export OPENAI_MODEL="qwen2.5-coder:32b"

建议把这两组写进 ~/.bashrc 或 ~/.zshrc 的注释段里,用哪个就取消哪组的注释。注意:API Key 只放环境变量,永远不要写进代码仓库。

第五步:开启第一个会话

进入你的项目目录,直接运行:

cd 你的项目目录
qwen

在交互界面里用自然语言下指令,比如“给这个函数补上单元测试”“解释一下这段逻辑”。需要无人值守时,用 headless 模式,一条命令搞定,适合脚本和 CI:

qwen -p "把 README 里的安装步骤更新到最新"

进阶一:GPU 云上跑更大模型

本地显卡不够时,可以去 GPU 云上租卡:32B 模型建议 A100 80GB,7B 模型 L40S 也够用,系统选 Ubuntu 22.04 + CUDA 12.4。云 GPU 按小时计费,用完记得销毁实例,别让账单过夜。

进阶二:用 Tabby 做团队代码补全服务

想在 IDE 里获得 Copilot 式补全,可以部署开源的 Tabby 服务端:

docker run -d --gpus all -p 8080:8080 \
  -v $HOME/.tabby:/data \
  tabbyml/tabby:latest serve \
  --model Qwen/Qwen2.5-Coder-7B-Instruct --device cuda

7B 模型约占 15GB 显存;32B 的 FP16 版本约 65GB,4-bit 量化版约 20GB,按显卡实际情况选。然后在 VS Code 里安装 TabbyML.vscode-tabby 插件,把服务端地址设为 http://服务器IP:8080,写代码时 1-3 秒给出首个建议,后续补全通常在几百毫秒内跟上。

进阶三:Git worktree 多 Agent 并行

一个终端只跑一个任务太慢了。用 Git worktree 开多个工作区,每个终端跑一个 Qwen Agent:

git worktree add ../proj-test    # 跑测试的 Agent
git worktree add ../proj-docs    # 写文档的 Agent
git worktree add ../proj-refact  # 做重构的 Agent

各干各的,最后用 git diff 检查、手动合并。并行一开,效率翻倍,但合并前一定要人眼过一遍。

安全与成本 checklist

  • API Key 只放环境变量,不进仓库、不进截图;
  • 云 GPU 按小时计费,用完即删;
  • 本地模型注意磁盘空间,32B 模型文件不小;
  • 重要分支的操作,先 dry-run 或小步试错。

要点解读

  • 自托管的真正价值不是省钱,而是“可控”:代码不出内网、模型版本自己定、断网也能干活。对合规敏感的团队,这是刚需。
  • 建议的学习路径:先本地 Ollama 跑通全流程(零成本试错),再决定要不要上云 GPU 或团队补全服务。一步到位容易踩坑。
  • Qwen Code 加 Ollama 这套组合最大的对手其实是“习惯”——从云端 Copilot 切过来需要一两天适应期,但换来的是完全属于自己的编程助手。

(本教程为本站根据公开资料整理改写,步骤经核对,具体命令请以官方文档为准。)

最后修改:2026-10-21
如果觉得我的文章对你有用,请随意赞赏