不少 Claude Code 使用者长期面临双重困扰：模型调用开销居高不下，订阅额度往往快速耗尽；更棘手的是隐私泄露隐患，每一次代码请求都会将项目源码片段传输至第三方云端服务器，给核心开发资产带来安全风险。
LiteLLM 代理为此开辟了全新路径，可在个人硬件上闭环运行 Claude Code，全程断网离线、无需付费订阅，让项目代码始终保留在本地设备内。
协议转换 打通模型互通核心壁垒
Claude Code 原生为 Anthropic 专属 API 协议定制，封闭的接口格式使其无法兼容 OpenAI 系列模型，也不能直连 Ollama 等本地开源推理服务。早前开发者尝试通过环境变量强行适配本地模型，大多以协议不兼容报错告终，问题并非本地模型性能不足，而是双方会话接口格式无法互通。
LiteLLM 的核心定位是协议转换中间层。它部署在 Claude Code 与后端推理服务之间，接收 Anthropic 格式请求后，拆解会话参数与工具调用指令，重新编译为 Ollama、vLLM 可识别的通用接口格式；待本地模型返回结果后，再反向封装适配原有协议，让 Claude Code 无感调用本地开源模型。
只需配置两条环境变量即可完成请求重定向：export ANTHROPIC_BASE_URL="http://localhost:4000"export ANTHROPIC_AUTH_TOKEN="任意自定义字符"
前者指向本地 LiteLLM 代理端口，后者绕过官方身份强制校验。配置生效后，Claude Code 所有请求均转发至本地网关，不再对接 Anthropic 云端服务器。
极简四步配置 普通开发者即可快速落地
整套部署逻辑清晰，实操门槛低，零基础也能快速搭建完成。第一步，部署本地推理服务，可选用 LM Studio、Ollama、vLLM 任意工具，搭建本地模型运行环境。第二步，安装带代理功能的 LiteLLM 工具：pip install 'litellm [proxy]'
第三步，新建配置文件 config.yaml，建立模型名称映射，将 Claude Code 识别的官方模型名称，关联至本地真实开源模型：model_list:
- model_name: claude-3-5-sonnet-20241022litellm_params:model: ollama/qwen2.5-coder:7bapi_base: http://localhost:11434
行业通用做法建议严格对照官方模型名映射，规避模型识别失败、工具调用残缺等常见问题。第四步，启动 LiteLLM 代理服务：litellm --config config.yaml
保持代理进程常驻后台，终端配置环境变量后执行 claude 命令，若终端显示映射的本地模型名称，即代表调用通路彻底打通。
性能实测与硬件选型 摸清本地模型能力边界
社区实测数据直观印证了本地模型的实用价值。在双 MI60 显卡、总计 64GB 显存环境下，部署 Qwen3-Coder-30B-A3B 模型，推理速度稳定维持每秒 25 至 30 个 Token，首字延迟低至 175 毫秒，单轮会话缓存命中率超 91%。
离线运行模式彻底摆脱网络波动、接口限流、额度耗尽等问题。实测同时证明，本地开源模型可完整运行智能体工作流，独立完成项目架构规划、目录创建、代码编写与文件生成，全流程闭环在局域网内完成，源码零外流。
结合硬件配置可精准匹配适配模型：
- 16GB 显存机型：适配 Qwen2.5-Coder-7B、Qwen3-8B，支持 64K 超长上下文；
- 32GB 显存机型：优选 Qwen3-Coder-30B-A3B 混合架构模型，低参数激活实现高效推理；
- 纯 CPU 无独显机型：仅适合 7B 量级量化模型，大参数量模型会出现响应迟缓、运行卡顿。
不止模型转接 可构建企业级 AI 中间件
LiteLLM 的应用价值远超简单的模型适配转接。在金融、医疗等对数据合规要求严苛的私有化场景中，可借助它实现 API 请求智能分流：代码补全、基础代码分析交由本地模型承载，复杂架构重构、核心逻辑优化可无缝切换至官方 Claude 接口，兼顾数据安全与推理性能。
团队协作场景下，单一 LiteLLM 代理可同时为 Codex CLI、Claude Code 提供统一服务，以主流大模型为中枢统一调度。团队共用一套配置规则，仅需在代理层统一调整模型选型、流量限速，无需逐个修改客户端。依托接口密钥做权限隔离、预算分配，搭配多服务商自动故障转移，可快速搭建高可用企业级 AI 网关。
平衡成本与隐私 成开发者主流选择
这套方案无需在云端模型与本地模型之间做二选一取舍，更推荐混合搭配使用：日常代码编写、模板生成、轻度代码重构交由本地开源模型；遇到大型架构设计、复杂逻辑推演时，再切换官方云端接口。
落地部署只需满足三项基础条件：选用支持工具调用的编码模型，Qwen 系列适配表现稳定；保持 LiteLLM 代理进程常驻；环境变量端口与地址配置准确。部署完成后即可停止云端 API 计费消耗，实现离线零成本 AI 编程辅助。
若不想耗费时间研究本地部署、协议适配与模型调试，追求一站式省心体验，可直接选用 UseAIAPI。平台聚合 Gemini、Claude、ChatGPT、DeepSeek 等全球最新主流 AI 大模型，同步提供专业企业级定制服务，即接即用无需自建运维。平台权益力度十足，全系服务低至官方原价 5 折，大幅降低高强度内容生成、高频接口调用的算力成本，彻底告别额度紧张与订阅费用压力。