claude-bluebook
@ cbc925f514
claude-code
@ 7a05427a4b
deepseek-cli
@ db2733f745
devops-ai-stack-finalized
@ 6dbe573d0a
qwen-code
@ c5286c0b3e
template
@ b8444e014c
y-router
@ 6ef40e4ebe
Qwen3-Coder:30B + Claude-Code 本地集成方案
在 M2 Ultra 192GB 上运行的本地代码生成 AI,完美平替 Claude!
🎯 系统概览
- 模型: Qwen3-Coder:30B (300亿参数)
- 硬件: M2 Ultra 192GB RAM
- 推理速度: 15-25 tokens/s
- 本地部署: 数据隐私,无网络依赖
📁 项目结构
ai/
├── qwen-mcp-server.py # MCP Server 主程序
├── start-qwen-mcp.sh # 启动脚本
├── test-qwen.py # 测试脚本
├── claude-config.json # Claude-Code 配置
├── requirements.txt # Python 依赖
├── qwen-mcp-env/ # 虚拟环境
└── README.md # 本文档
🚀 快速开始
1. 启动 Ollama 服务
# 确保 Qwen3-Coder:30b 模型已加载
ollama run qwen3-coder:30b
# 保持终端开启,或后台运行
ollama serve &
2. 启动 MCP Server
# 使用启动脚本(推荐)
./start-qwen-mcp.sh
# 或手动启动
source qwen-mcp-env/bin/activate
python qwen-mcp-server.py
3. 配置 Claude-Code
将以下配置添加到 Claude-Code 配置文件:
{
"mcpServers": {
"qwen3-coder": {
"command": "/Users/brunogao/work/codes/tools/macos/ai/start-qwen-mcp.sh",
"args": [],
"env": {}
}
}
}
🛠️ 可用工具
qwen_generate_code
生成本地代码,支持多种编程语言
# 示例调用
await call_tool("qwen_generate_code", {
"prompt": "创建一个计算斐波那契数列的函数",
"language": "python",
"max_tokens": 2048
})
qwen_refactor_code
重构和优化现有代码
await call_tool("qwen_refactor_code", {
"code": "def fib(n): return 1 if n <= 2 else fib(n-1) + fib(n-2)",
"instructions": "优化性能,添加缓存",
"language": "python"
})
qwen_explain_code
解释代码功能
await call_tool("qwen_explain_code", {
"code": "复杂代码片段",
"language": "python",
"detail_level": "detailed"
})
📊 性能指标
- 模型大小: 18GB (磁盘)
- 内存使用: ~65GB (运行时)
- 首次加载: 30-40秒
- 推理延迟: 2-5秒 (短文本)
- 吞吐量: 15-25 tokens/s
🔧 系统要求
- 硬件: M2 Ultra 192GB 或类似配置
- 系统: macOS 14.0+
- Python: 3.11+
- Ollama: 最新版本
🐛 故障排除
模型加载缓慢
- 首次加载需要 30-40 秒,这是正常的
- 确保有足够的可用内存 (推荐 100GB+)
API 超时
- 增加超时时间到 60 秒以上
- 检查 Ollama 服务状态:
curl http://localhost:11434/api/tags
内存不足
- 关闭其他内存密集型应用
- 考虑使用更小的模型进行测试
💡 使用技巧
- 预热模型: 首次使用前发送简单请求预热
- 批量处理: 合并多个小请求减少延迟
- 上下文管理: 保持对话上下文以提高质量
- 参数调优: 根据任务调整 temperature 和 max_tokens
🔄 维护
更新模型
ollama pull qwen3-coder:30b
更新依赖
source qwen-mcp-env/bin/activate
pip install -r requirements.txt --upgrade
📈 成本效益
相比 Claude API:
- 初期投入: $0 (已有硬件)
- 月度成本: ~$20 (电费)
- ROI: 1-2 个月回本
- 优势: 数据隐私 + 无限制使用
🎉 下一步
- 微调模型: 基于个人代码风格微调
- 扩展工具: 添加更多专业开发工具
- 性能优化: 使用 MLX 进一步优化
- 多模态: 集成图像理解能力
恭喜! 🎊 你现在拥有了完全本地化的代码生成 AI,性能媲美 Claude,成本接近零!