【CSDN 編者按】在 AI 技術飛速發展的今天，OpenAI API 已成為眾多 SaaS 開發者手中的得力工具。但高額的 Token 消耗，也讓成本控制成為開發者不得不面對的難題。本文作者以一個月消耗 94 億 Token 的實戰經歷，毫無保留地分享了優化成本的關鍵經驗。

原文鏈接：https://www.reddit.com/r/LLMDevs/comments/1kigp51/spent_9400000000_openai_tokens_in_april_here_is/

作者 | tiln7 翻譯 | 鄭麗媛

出品 | CSDN（ID：CSDNnews）

大家好！剛剛 結束了 一個 對 我們 SaaS 產品 來說 強度 非常 大的 OpenAI API 調用 月， 我 想 順便 分享一些踩坑總結。 通過下面這幾條優化策略， 我們成功將 成本 降低了 43%！ 希望這能幫到同樣也在用 OpenAI API 的開發者朋友們。

選對模型是關鍵中的關鍵

我知道這聽起來像廢話，但這真的很重要。不同模型之間的價格差距巨大，我們通過大量測試，最終挑選了“最便宜但效果還不錯”的組合：簡單任務主要用 GPT-4o-mini，復雜一點的才上 GPT-4.1。

我們的業務并不需要強邏輯推理能力的模型（比如 GPT-4 Turbo），所以可以放心避開高價位的模型。雖然測試確實花了不少時間，但從長期來看絕對值得。

用好提示詞緩存（Prompt Caching）

這點完全是意外收獲。OpenAI 平臺會自動緩存完全一致的提示詞（prompt），在重復調用相同的 prompt 時，不僅速度提升，成本也能大幅下降！

我們實測發現：對于長提示詞，延遲最多減少 80%，成本也降低近 50%。還有一點很重要：確保 prompt 中的“變化部分”放在末尾，否則緩存機制可能無法命中。除了這一點，其他都不用額外配置，真的省心又高效。

務必設置賬單預警！

一定要開通賬單提醒！我們就是因為沒設置，一不小心 5 天就把整個月的預算都燒光了……

優化提示詞結構，盡量減少輸出 Token 數量

你知道嗎？OpenAI 平臺上“輸出 Token”的價格是“輸入 Token”的 4 倍！

所以我們優化了模型的輸出方式：不再讓它輸出完整的文本結果，而是改為只返回位置編號和類別，然后在代碼中進行映射。這一個小改動，讓我們的輸出 Token 數量直接減少約 70%，調用延遲也大大降低！

使用 Batch API 處理非實時任務

如果你有不需要即時返回的任務，比如夜間批處理類操作，強烈推薦用 Batch API（一個專門設計來處理大量數據的批處理服務）！我們把一批夜間處理邏輯遷移到了 Batch API 上，直接省了一半的費用。雖然它有 24 小時的處理窗口，但對非實時業務完全沒問題，強烈推薦。

寫在最后：這些經驗教訓是我們在燒掉 94 億個 Token 之后，邊踩坑邊總結出來的，希望能幫大家避雷。如果你也在做 AI API 集成，歡迎補充一些實用技巧！

“這值得燒掉 94億個Token嗎？”

然而，對于上面的這些建議和總結，多數網友的第一反應都是：就這，值得燒掉 94 億個 Token 嗎？

• “你要是早點看 OpenAI 官方文檔里 Best Practices 這部分，可能早就省下一大堆Token了……”

• “不是我說你，這些經驗教訓其實應該是你在系統設計階段就該思考的問題，而不應該靠‘燒錢’試出來。”

也有部分網友提出疑問，為什么不試試其他更便宜的模型：

• “重點問題來了——你到底是干了啥，要用掉 94 億 Token？！你有沒有嘗試過其他模型？有打算把 ChatGPT 換掉嗎？”

• “內容不錯，不過我很想知道你們的 SaaS 業務究竟做什么的，竟然要用這么多 Token！有沒有考慮過 Gemini 這種更便宜、支持多模態和 100 萬 Token 上下文的模型？為啥一直堅持用 OpenAI 的模型？”

同時，個別開發者也指出，有些建議并不適用于所有情景：

• “我想就第 4 點進行補充。雖然壓縮輸出 Token 聽起來很劃算，但有時候適當提供足夠的輸出空間，其實有助于大模型‘思考清晰、計算準確、提升答案自信度’，而限制 Token 可能會影響推理質量。如果你對 Token 預算很敏感，不妨考慮是不是這項任務根本不需要大模型來處理——用傳統邏輯就夠了。優秀的 Prompt 設計，是清晰、貼切、符合語境，而不是一味地壓榨 Token 空間。”

CSDN創始人&董事長蔣濤「對談」浙大求是特聘教授方興東。作為中國互聯網30年的見證者，從鴻蒙操作系統的破曉之路，聊聊中國高科技的崛起之路。方興東新書《鴻蒙開物》來了！直播間抽福袋，領「限定簽章版」。