Files
2025-12-24 13:42:39 +08:00
..
2025-12-24 13:42:39 +08:00
2025-11-13 17:59:28 +08:00
2025-11-13 17:59:28 +08:00
2025-11-13 17:59:28 +08:00
2025-11-13 17:59:28 +08:00
2025-12-24 13:42:39 +08:00
2025-11-13 17:59:28 +08:00
2025-11-03 06:39:53 +08:00
2025-11-13 17:59:28 +08:00

Qwen3-Coder:30B + Claude-Code 本地集成方案

在 M2 Ultra 192GB 上运行的本地代码生成 AI,完美平替 Claude!

🎯 系统概览

  • 模型: Qwen3-Coder:30B (300亿参数)
  • 硬件: M2 Ultra 192GB RAM
  • 推理速度: 15-25 tokens/s
  • 本地部署: 数据隐私,无网络依赖

📁 项目结构

ai/
├── qwen-mcp-server.py      # MCP Server 主程序
├── start-qwen-mcp.sh       # 启动脚本
├── test-qwen.py           # 测试脚本
├── claude-config.json     # Claude-Code 配置
├── requirements.txt       # Python 依赖
├── qwen-mcp-env/         # 虚拟环境
└── README.md             # 本文档

🚀 快速开始

1. 启动 Ollama 服务

# 确保 Qwen3-Coder:30b 模型已加载
ollama run qwen3-coder:30b

# 保持终端开启,或后台运行
ollama serve &

2. 启动 MCP Server

# 使用启动脚本(推荐)
./start-qwen-mcp.sh

# 或手动启动
source qwen-mcp-env/bin/activate
python qwen-mcp-server.py

3. 配置 Claude-Code

将以下配置添加到 Claude-Code 配置文件:

{
  "mcpServers": {
    "qwen3-coder": {
      "command": "/Users/brunogao/work/codes/tools/macos/ai/start-qwen-mcp.sh",
      "args": [],
      "env": {}
    }
  }
}

🛠️ 可用工具

qwen_generate_code

生成本地代码,支持多种编程语言

# 示例调用
await call_tool("qwen_generate_code", {
    "prompt": "创建一个计算斐波那契数列的函数",
    "language": "python",
    "max_tokens": 2048
})

qwen_refactor_code

重构和优化现有代码

await call_tool("qwen_refactor_code", {
    "code": "def fib(n): return 1 if n <= 2 else fib(n-1) + fib(n-2)",
    "instructions": "优化性能,添加缓存",
    "language": "python"
})

qwen_explain_code

解释代码功能

await call_tool("qwen_explain_code", {
    "code": "复杂代码片段",
    "language": "python",
    "detail_level": "detailed"
})

📊 性能指标

  • 模型大小: 18GB (磁盘)
  • 内存使用: ~65GB (运行时)
  • 首次加载: 30-40秒
  • 推理延迟: 2-5秒 (短文本)
  • 吞吐量: 15-25 tokens/s

🔧 系统要求

  • 硬件: M2 Ultra 192GB 或类似配置
  • 系统: macOS 14.0+
  • Python: 3.11+
  • Ollama: 最新版本

🐛 故障排除

模型加载缓慢

  • 首次加载需要 30-40 秒,这是正常的
  • 确保有足够的可用内存 (推荐 100GB+)

API 超时

  • 增加超时时间到 60 秒以上
  • 检查 Ollama 服务状态: curl http://localhost:11434/api/tags

内存不足

  • 关闭其他内存密集型应用
  • 考虑使用更小的模型进行测试

💡 使用技巧

  1. 预热模型: 首次使用前发送简单请求预热
  2. 批量处理: 合并多个小请求减少延迟
  3. 上下文管理: 保持对话上下文以提高质量
  4. 参数调优: 根据任务调整 temperature 和 max_tokens

🔄 维护

更新模型

ollama pull qwen3-coder:30b

更新依赖

source qwen-mcp-env/bin/activate
pip install -r requirements.txt --upgrade

📈 成本效益

相比 Claude API:

  • 初期投入: $0 (已有硬件)
  • 月度成本: ~$20 (电费)
  • ROI: 1-2 个月回本
  • 优势: 数据隐私 + 无限制使用

🎉 下一步

  1. 微调模型: 基于个人代码风格微调
  2. 扩展工具: 添加更多专业开发工具
  3. 性能优化: 使用 MLX 进一步优化
  4. 多模态: 集成图像理解能力

恭喜! 🎊 你现在拥有了完全本地化的代码生成 AI,性能媲美 Claude,成本接近零!