https://www.w2solo.com/13160287136 en-us <p>做 AI 编程辅助工具这三个月，最大的感悟是：技术选型不难，难的是不被选型锁死。 早期为了赶进度，我在代码里把模型 ID 写死了。当时觉得反正都是 API 调用，没什么区别。结果后来现实狠狠教做人：</p> <p>追着版本跑：GPT 刚调完，Claude 又发新模型。想换个版本试试？改代码、补测试、重新发版，大半天没了。 故障只能干瞪眼：有时候某个模型突然变 “笨” 或者限流，用户来反馈，我想切备用模型，结果因为写死在代码里，根本来不及热更新。 团队内耗：每天不是在写代码，而是在争论 “今天到底哪个模型是老大”。</p> <p>这就是典型的 “模型绑架式开发”。 后来跟一个做架构的朋友聊，他点醒我：“模型只是基础设施，不该成为你的业务逻辑。” 现在的做法是把模型选型从代码里彻底剥离，抽成一个配置层。我目前用的是 Tokaify​ 做统一网关（主要是不想自己造轮子写路由和降级逻辑），之后世界清净了：</p> <p>配置化切换：现在想换模型，只需要在后台改个 ID，不用动业务代码，秒级生效。 灰度验证：新模型不敢直接用？先放 10% 的流量进去跑跑看，对比下效果再全量。 无损降级：一旦主模型拉胯，一键切回旧版本，用户甚至感觉不到。</p> <p>现在 GPT/Claude/Gemini 同时在跑，哪个顺手用哪个，再也不用 All in 某一个厂商了。 给同行的一点建议： 如果你也在做 AI 产品，在设计初期就把模型层解耦。不要让自己的业务节奏被底层模型的迭代牵着走，那是技术债，迟早要还的。 如果你也想体验一下随时可以切换模型的感觉，可以试试这种架构思路。独立开发不易，共勉。</p> 13160287136 Sat, 06 Jun 2026 14:58:06 +0800 https://www.w2solo.com/topics/7498 https://www.w2solo.com/topics/7498