1. 這場(chǎng)同日降價(jià)到底發(fā)生了什么先把時(shí)間線捋清楚。某天早上兩家頭部模型廠商幾乎在同一時(shí)間窗口宣布了旗下旗艦?zāi)Ｐ偷膬r(jià)格調(diào)整一邊是 Claude Opus 5.5另一邊是 GPT-6 的 Sol 和 Luna 兩個(gè)版本。注意這不是那種新用戶首月五折的營(yíng)銷噱頭而是直接砍 API 調(diào)用單價(jià)屬于真金白銀的降價(jià)。我做模型選型和成本核算這塊有些年頭了見過太多次降價(jià)最后變成換個(gè)計(jì)費(fèi)口徑的操作。但這次不一樣兩家的調(diào)整都落在了最核心的輸入/輸出 token 單價(jià)上而且幅度不小。圈子里當(dāng)天就炸了各種群里都在轉(zhuǎn)價(jià)格對(duì)比表。這件事的本質(zhì)是什么是大模型 API 市場(chǎng)從能力競(jìng)賽正式切換到成本競(jìng)賽。過去兩年大家比的是誰的 benchmark 高、誰的上下文長(zhǎng)、誰的多模態(tài)強(qiáng)現(xiàn)在能力差距被壓縮到一定程度后價(jià)格成了決定開發(fā)者用誰的關(guān)鍵變量。你想想同樣一個(gè)任務(wù)兩個(gè)模型效果差 5%但價(jià)格差 40%你會(huì)怎么選大部分生產(chǎn)環(huán)境會(huì)毫不猶豫選便宜的。這篇文章我想聊的不是誰更便宜這種一句話結(jié)論而是作為一個(gè)真正要控制成本、要跑生產(chǎn)負(fù)載的開發(fā)者你應(yīng)該怎么理解這次降價(jià)、怎么重新做選型、怎么把省下來的錢真正落到賬單上。適合正在用或準(zhǔn)備用這兩家 API 的工程師、做 AI 產(chǎn)品的技術(shù)負(fù)責(zé)人以及任何對(duì)模型成本敏感的人。2. 為什么偏偏是同日降價(jià)2.1 價(jià)格戰(zhàn)從來不是巧合兩家在同一天降價(jià)你要真信是巧合那就太天真了。這背后是典型的博弈論里的跟隨策略誰先降誰吃虧利潤(rùn)直接掉但誰不降誰丟份額。所以最優(yōu)解往往是——盯住對(duì)手同步出手把降價(jià)做成行業(yè)事件而不是單方面讓利。我個(gè)人的判斷是這次降價(jià)的觸發(fā)點(diǎn)有兩個(gè)。第一是推理成本本身在下降。新一代推理芯片的吞吐上來了加上各家在 KV Cache、投機(jī)解碼、量化推理上的工程優(yōu)化成熟單位 token 的邊際成本確實(shí)降了。成本降了價(jià)格才有下探空間否則就是純燒錢。第二是開源模型的擠壓。一批開源權(quán)重模型在中等難度任務(wù)上已經(jīng)能打很多團(tuán)隊(duì)開始自建推理。閉源 API 如果還維持高價(jià)客戶會(huì)流失到自建方案。降價(jià)本質(zhì)上是把自建 vs 調(diào)用的臨界點(diǎn)往回調(diào)。2.2 降價(jià)的三種姿勢(shì)你要分清不是所有降價(jià)都一樣我把它分成三類你對(duì)照著看這次屬于哪種降價(jià)類型表現(xiàn)形式對(duì)你的實(shí)際影響真降價(jià)輸入/輸出單價(jià)直接下調(diào)賬單立竿見影最實(shí)在結(jié)構(gòu)性降價(jià)緩存命中、批量調(diào)用打折用對(duì)了才省用不對(duì)沒感覺門檻降價(jià)免費(fèi)額度、低價(jià)小模型適合試水不適合主力負(fù)載這次兩家主要?jiǎng)拥氖堑谝活惡偷诙?。真降價(jià)是普惠的結(jié)構(gòu)性降價(jià)是會(huì)用的省更多。很多人只看到單價(jià)數(shù)字忽略了緩存和批處理這些杠桿結(jié)果實(shí)際省下來的錢遠(yuǎn)低于預(yù)期。后面我會(huì)專門講怎么把這些杠桿拉滿。2.3 對(duì)開發(fā)者的真實(shí)意義說點(diǎn)實(shí)在的。如果你現(xiàn)在每個(gè)月 API 賬單是幾千塊這次降價(jià)可能讓你省幾百到一千多。但如果你跑的是大規(guī)模生產(chǎn)負(fù)載比如每天幾百萬次調(diào)用那這次降價(jià)可能是每月省下一臺(tái)服務(wù)器的錢甚至更多。更重要的不是省多少錢而是它改變了你的架構(gòu)決策空間。以前因?yàn)橘F你可能被迫用更小的模型、更短的上下文、更激進(jìn)的截?cái)嗖呗誀奚诵Ч，F(xiàn)在成本下來了你可以重新考慮是不是該上更大的模型是不是該把上下文放長(zhǎng)一點(diǎn)是不是該把之前因?yàn)槌杀究车舻墓δ芗踊貋磉@才是降價(jià)真正的價(jià)值——它松開了你身上的成本枷鎖。3. 兩個(gè)模型到底怎么選一張決策表3.1 先看硬指標(biāo)對(duì)比我不喜歡空談?wù)l更強(qiáng)直接上對(duì)比維度。以下是我基于公開信息和實(shí)測(cè)經(jīng)驗(yàn)整理的框架具體數(shù)字以你實(shí)際拿到的報(bào)價(jià)為準(zhǔn)維度Claude Opus 5.5GPT-6 SolGPT-6 Luna定位旗艦全能高性能主力高性價(jià)比輕量長(zhǎng)上下文強(qiáng)強(qiáng)中等復(fù)雜推理強(qiáng)強(qiáng)一般指令遵循強(qiáng)強(qiáng)中等單價(jià)檔位中高中低適合場(chǎng)景復(fù)雜分析、長(zhǎng)文檔通用生產(chǎn)負(fù)載高并發(fā)簡(jiǎn)單任務(wù)這張表的關(guān)鍵信息是GPT-6 拆成了 Sol 和 Luna 兩檔這本身就是一種價(jià)格戰(zhàn)打法。用 Luna 守住低價(jià)區(qū)間用 Sol 打主力用 Opus 5.5 對(duì)標(biāo)高端。你選型時(shí)不要只盯著哪個(gè)最強(qiáng)而要問我這個(gè)任務(wù)需要多強(qiáng)。3.2 按任務(wù)難度分層選型我的經(jīng)驗(yàn)是別用一個(gè)模型打天下。正確的做法是按任務(wù)難度分層簡(jiǎn)單任務(wù)分類、抽取、格式化、簡(jiǎn)單問答用 Luna 這類輕量模型成本能壓到最低。這類任務(wù)占你總調(diào)用量的 60% 以上是省錢的主戰(zhàn)場(chǎng)。中等任務(wù)多輪對(duì)話、中等長(zhǎng)度總結(jié)、代碼補(bǔ)全用 Sol 或 Opus 5.5 的中檔配置。復(fù)雜任務(wù)長(zhǎng)文檔深度分析、復(fù)雜推理、多步驟 Agent用 Opus 5.5 或 Sol 的高配這時(shí)候別省效果優(yōu)先。我見過太多團(tuán)隊(duì)犯一個(gè)錯(cuò)所有請(qǐng)求都打給最貴的模型。結(jié)果 80% 的簡(jiǎn)單請(qǐng)求花了 80% 的錢純浪費(fèi)。分層之后同樣的業(yè)務(wù)量賬單能砍掉一半以上。3.3 一個(gè)真實(shí)的成本測(cè)算例子假設(shè)你每天有 100 萬次調(diào)用平均每次輸入 800 token、輸出 300 token。我按降價(jià)前后的相對(duì)比例算一筆賬具體單價(jià)用你手上的報(bào)價(jià)替換全部用旗艦?zāi)Ｐ洼斎?8 億 token 輸出 3 億 token分層后60% 走輕量、30% 走中檔、10% 走旗艦粗算下來分層方案的總成本通常只有全旗艦方案的35% 到 50%。再疊加這次降價(jià)實(shí)際支出可能只有原來的三成。這個(gè)數(shù)字對(duì)任何有規(guī)模的業(yè)務(wù)都是質(zhì)變。提示分層選型的前提是你得先給請(qǐng)求打標(biāo)簽。最簡(jiǎn)單的做法是在入口處用一個(gè)輕量分類器甚至規(guī)則判斷任務(wù)難度再路由到對(duì)應(yīng)模型。這個(gè)分類器本身也可以用 Luna 這種便宜模型來做成本幾乎可以忽略。4. 把降價(jià)紅利吃干榨凈的實(shí)操技巧4.1 緩存命中最容易被忽視的省錢杠桿Prompt Caching 這個(gè)東西很多人知道但沒用起來。原理很簡(jiǎn)單如果你的請(qǐng)求前綴比如系統(tǒng)提示詞、固定的 few-shot 示例、長(zhǎng)文檔是重復(fù)的緩存命中部分的價(jià)格通常只有正常輸入價(jià)的零頭。實(shí)操上你要做的是把穩(wěn)定不變的內(nèi)容放在 prompt 最前面把每次都變的內(nèi)容放在最后。因?yàn)榫彺媸前辞熬Y匹配的前綴越穩(wěn)定命中率越高。我見過有人把用戶 ID、時(shí)間戳放在最前面結(jié)果緩存永遠(yuǎn)命中不了白白多花錢。具體做法系統(tǒng)提示詞、角色設(shè)定、固定示例 → 放最前盡量不改長(zhǎng)文檔、知識(shí)庫內(nèi)容 → 放中間同一文檔多次提問時(shí)能命中用戶當(dāng)前問題、動(dòng)態(tài)參數(shù) → 放最后這樣改一遍緩存命中率能從個(gè)位數(shù)拉到 60% 以上輸入成本直接砍一大截。4.2 批處理能等的任務(wù)就別實(shí)時(shí)跑很多任務(wù)其實(shí)不需要實(shí)時(shí)返回。比如離線數(shù)據(jù)標(biāo)注、批量?jī)?nèi)容生成、日志分析。這類任務(wù)走 Batch API價(jià)格通常有額外折扣而且這次降價(jià)后折扣疊加省得更多。判斷標(biāo)準(zhǔn)很簡(jiǎn)單用戶是否在等這個(gè)結(jié)果。用戶在等 → 實(shí)時(shí)用戶不在等 → 批處理。我一般會(huì)把所有非交互式任務(wù)都挪到批處理隊(duì)列晚上跑成本能再降一檔。4.3 輸出長(zhǎng)度控制輸出比輸入貴這是個(gè)反直覺但極其重要的點(diǎn)大多數(shù)模型的輸出 token 單價(jià)比輸入貴 3 到 5 倍。所以控制輸出長(zhǎng)度比控制輸入更省錢。實(shí)操技巧在 prompt 里明確要求簡(jiǎn)潔回答只輸出結(jié)果不要解釋用結(jié)構(gòu)化輸出JSON schema約束模型避免它啰嗦設(shè)置 max_tokens 上限防止模型跑飛對(duì)總結(jié)類任務(wù)直接指定字?jǐn)?shù)范圍我做過對(duì)比同樣一個(gè)抽取任務(wù)加了只輸出 JSON不要任何額外文字之后輸出 token 少了 70%成本立竿見影。4.4 重試與失敗的成本這個(gè)坑很多人踩過模型調(diào)用失敗重試是要重復(fù)計(jì)費(fèi)的。如果你的重試邏輯寫得糙一次失敗重試三次成本直接翻三倍。我的做法是對(duì)可重試錯(cuò)誤限流、超時(shí)設(shè)置指數(shù)退避別無腦重試對(duì)不可重試錯(cuò)誤參數(shù)錯(cuò)誤、內(nèi)容違規(guī)直接放棄別浪費(fèi)錢記錄失敗率失敗率高的 prompt 要優(yōu)化而不是靠重試硬扛5. 常見問題與排查實(shí)錄5.1 為什么我降價(jià)后賬單沒怎么變這是問得最多的問題。原因通常有三個(gè)第一你沒用緩存。如果你的 prompt 前綴每次都變緩存命中率接近零那降價(jià)只作用在沒緩存的那部分感覺不明顯。第二你的輸出太長(zhǎng)。輸出單價(jià)高如果模型每次都長(zhǎng)篇大論輸出成本占比很高輸入降價(jià)對(duì)你影響有限。第三你的調(diào)用量結(jié)構(gòu)沒優(yōu)化。如果所有請(qǐng)求都打給旗艦?zāi)Ｐ徒祪r(jià)只是讓貴的稍微便宜點(diǎn)沒有結(jié)構(gòu)性改變。排查順序先看賬單里輸入/輸出占比再看緩存命中率最后看模型分布。這三個(gè)數(shù)據(jù)一拉出來問題基本就定位了。5.2 降價(jià)后該不該換模型別急著換。降價(jià)不等于要遷移。遷移模型是有成本的prompt 要重調(diào)、輸出格式可能變、效果要重新評(píng)估、線上要灰度。如果兩個(gè)模型效果差不多價(jià)格也差不多那就別折騰。什么時(shí)候值得換我列個(gè)判斷標(biāo)準(zhǔn)情況是否值得遷移新模型便宜 30% 以上且效果持平值得新模型便宜但效果明顯下降不值得只是便宜 10% 以內(nèi)不值得折騰你有大量簡(jiǎn)單任務(wù)可以下沉到輕量模型值得5.3 效果波動(dòng)怎么排查換了模型或改了 prompt 之后效果波動(dòng)排查思路固定一組測(cè)試用例跑回歸對(duì)比看是整體下降還是特定類型任務(wù)下降檢查是不是輸出格式變了導(dǎo)致下游解析失敗檢查 temperature、max_tokens 等參數(shù)是否一致我一般會(huì)維護(hù)一個(gè) 50 到 100 條的黃金測(cè)試集任何模型或 prompt 變更都先跑一遍通過了再上灰度。這個(gè)習(xí)慣幫我避免過好幾次線上事故。5.4 限流和配額問題降價(jià)之后調(diào)用量往往會(huì)漲因?yàn)楸阋肆舜蠹揖投嘤眠@時(shí)候容易撞限流。提前做兩件事一是申請(qǐng)更高的配額二是做好限流降級(jí)——撞限流時(shí)自動(dòng)切到備用模型或排隊(duì)別讓請(qǐng)求直接失敗。6. 我踩過的坑和幾條實(shí)在建議說幾個(gè)我自己踩過的坑都是真金白銀換來的。坑一以為降價(jià)就是省錢。早期我看到降價(jià)就高興結(jié)果賬單沒降反升——因?yàn)楸阋肆藞F(tuán)隊(duì)就放開了用調(diào)用量漲得比單價(jià)降得快。降價(jià)會(huì)刺激用量你要同步做用量治理否則省的錢全被增量吃掉?？佣彺媾渲脤懛戳?。我把動(dòng)態(tài)內(nèi)容放前面穩(wěn)定內(nèi)容放后面緩存命中率一直是零還納悶為什么沒效果。后來把順序調(diào)過來命中率直接上去了。這個(gè)細(xì)節(jié)文檔里往往一筆帶過但影響巨大?？尤雎暂敵龀杀?。有段時(shí)間我優(yōu)化輸入優(yōu)化得很起勁結(jié)果輸出占了總成本的一大半。后來加了輸出約束成本才真正下來。坑四沒做模型分層。所有請(qǐng)求打給旗艦?zāi)Ｐ秃?jiǎn)單任務(wù)也走最貴的路。分層之后同樣的業(yè)務(wù)成本降了一半多。幾條實(shí)在建議先測(cè)量再優(yōu)化。別憑感覺把賬單拆開看輸入、輸出、緩存、模型分布找到大頭再動(dòng)手。建立成本監(jiān)控。按天、按業(yè)務(wù)線看成本趨勢(shì)異常及時(shí)報(bào)警。我見過有人被一個(gè)死循環(huán)的 Agent 一夜燒掉不少錢。把成本當(dāng)成產(chǎn)品指標(biāo)。每次功能迭代都評(píng)估成本影響別等功能上線了才發(fā)現(xiàn)跑不起。別為了省錢犧牲核心體驗(yàn)。該用旗艦的地方就用省錢的目的是把錢花在刀刃上不是把刀刃也省了。這次兩家同日降價(jià)對(duì)整個(gè)行業(yè)是好事。它逼著所有人重新審視自己的成本結(jié)構(gòu)也給了中小團(tuán)隊(duì)更多用得起好模型的機(jī)會(huì)。但紅利不會(huì)自動(dòng)落到你口袋里得靠一套系統(tǒng)的成本優(yōu)化方法去接。我上面講的緩存、批處理、輸出控制、模型分層這幾招你哪怕只落地兩招賬單都會(huì)有明顯變化。