小公司要跑 AI agent，先搞清楚錢花在哪
最近花了不少時間研究怎麼讓 AI agent 在我的電商流程裡真正跑起來，不是 demo 那種，是實際能用、不會突然壞掉、月費又不會讓我哭的那種。
摸索下來有一個體悟：不是每個步驟都需要最貴的模型。
我之前的做法很蠢，整條 workflow 全部丟給最強的模型，結果每個月的 API 帳單嚇到我。後來仔細拆開來看，發現大部分的步驟根本不需要那麼強的推理能力。比如「確認這封客服信的情緒是不是憤怒」，用便宜的小模型做就夠了；真正需要動腦的，像是「寫一封道歉信讓客人不要衝評論」，才值得用好一點的。
現在我的做法是把 workflow 拆成幾段：
高推理節點（少量，燒錢但值得）：需要理解上下文、做複雜判斷的步驟。一個 workflow 最多一兩個。
快速驗證節點（量大，要便宜）：檢查格式對不對、分類有沒有跑歪、輸出有沒有超出範圍。這種用最快最便宜的模型，甚至可以跑批次。
預測跳過節點（最近才學到的）：如果這個 step 的輸入模式你見過很多次，可以先「猜」答案，等結果確認後再執行。延遲降很多，成本也降。
這樣算下來，同樣的功能，費用可以壓到原本的三分之一左右。
還有一個坑我踩過：agent 壞了很難 debug。尤其是多個 agent 串在一起跑的時候，出錯你根本不知道是哪一段的問題。現在我的原則是：每個 agent 只做一件事，input/output 格式固定，這樣出問題才能快速定位。複雜不代表好，能維護才是真的好用。
說真的，AI agent 技術這塊每週都有新東西出來，追不完。但對我這種一人公司來說，重點不是用最新的，是用能穩定跑的。技術再厲害，如果我三更半夜要爬起來修 bug，那就是失敗。💰
你們有在跑 agent workflow 的，是怎麼控制成本的？
作者：偉老闆