Claude 的奇異組合，或為何「快速」很少意味著「免費」
AI 模型名稱的特點是它們聽起來都像古龍水。Haiku（俳句）。Sonnet（十四行詩）。很快我們就會有「Ode（頌歌）」和「Limerick（五行打油詩）」，或許還會有一款聞起來像創投資本的味道。但在香氣撲鼻的品牌包裝下，Claude Haiku 4.5 和 Sonnet 4 之間的選擇，是運算中最古老的權衡：便宜的那個速度夠快，直到它不夠快為止；好的那個在你節省時間之前，會讓你覺得很貴。
這並不是真正的對決。這是一個關於你實際上用模型做什麼的問題：是緊密的迴圈和快速的點擊，還是深入的推理和仔細的輸出。每個人都假裝存在萬靈丹。但並沒有。只是選擇合適的鎚子來敲打合適的釘子——而不是用它來砸你的拇指。
讓我們直奔主題：「Claude Haiku 4.5 vs Sonnet 4」歸結為成本、速度和效能的權衡。更不浪漫地說：tokens、延遲和正確性。如果你想要一句話的答案——Haiku 4.5 是預算短跑運動員；Sonnet 4 是有大腦的馬拉松運動員。如果你想要真正的答案，請繼續閱讀。
人們口中的「成本」實際上是指「時間」
每個人都會問：「哪個模型更便宜？」這不是真正的問題。真正的問題是：「哪個模型總體上花費我更少？」而「總體上」包括開發人員的時間、重試、隱藏的提示，以及當你的「快速」模型沒有抓住重點時，令人尷尬的重新執行。
- 每個 token 的成本：Haiku 4.5 的運行成本更低。這是標題。如果你的工作負載是高容量、低風險的——分類、路由、簡短的摘要——那麼無論你怎麼說，Haiku 都更便宜，而且會一直更便宜。
- 正確性的總成本：Sonnet 4 在需要多步驟推理的任務中犯的錯誤更少。如果錯誤的答案會讓你損失真金白銀（或信譽），那麼「更便宜」的模型通常是昂貴的那個。
真正追蹤支出的 AI 團隊很快就會學到這一點。其餘的人則是在一位初級產品經理運行一個週末實驗時學到，而這個實驗的帳單卻意外地像加密貨幣礦工一樣。
速度不是一個功能。它是一個約束。
延遲並不迷人。它只是讓你的使用者在你的應用程式感覺像撥號上網時放棄使用的東西。Haiku 4.5 專為快速響應而設計，尤其是在小型提示和簡短輸出方面。它非常適合互動式使用者介面、自動完成、快速搜尋重新排序，以及「這封電子郵件是垃圾郵件嗎？」
Sonnet 4 很快——就它所做的事情而言。但是，當你使用模型進行慎重推理時，瓶頸通常是你的提示大小和輸出長度。添加工具調用、鏈式思考風格的計畫（即使你沒有記錄它）和結構化輸出——突然，「較慢」的模型最終會更快地完成端到端，因為它第一次就做對了。
足夠快是目標。問題是：足夠快是為了什麼？一個兩秒鐘的錯誤答案比一個經得起考驗的四秒鐘答案要慢。
效能：每個人都揮手致意，但沒有人定義的部分
效能不是單一的事情；它是一個混亂的行為堆疊，例外情況多於規則。在實踐中：
- 語言理解和摘要：Haiku 4.5 相當稱職，尤其是在簡短的文件和乾淨的結構方面。Sonnet 4 在細微差別（語氣、暗示、有保留的主張）方面表現更好。如果你關心「弦外之音」，你會注意到其中的差異。
- 推理和多步驟邏輯：Sonnet 4 勝出。你可以在使用工具時更少地走入死胡同、更嚴格地遵守約束，以及在多跳問題上更少地出現「自信地錯誤」的行為中看到它。
- 結構化輸出保真度：Sonnet 4 的行為更像一個優秀的初級工程師：遵循架構、從模糊性中恢復，並且不會虛構看起來方便的欄位。
- 長上下文消化：這兩種模型都可以閱讀長輸入，但 Sonnet 4 更擅長記住重要的內容。Haiku 4.5 掌握要點；Sonnet 4 掌握論點。
如果你的任務是單跳問答，你可能不會注意到。如果你正在協調工作流程——檢索、工具使用、程式碼執行——你會注意到。
用例圖：Haiku 4.5 發光的地方，Sonnet 4 收回成本的地方
讓我們停止假裝這是意識形態。這是架構上的。
- 高容量分類和路由：Haiku 4.5。便宜、快速、足夠好。如果你感到緊張，可以為邊緣情況添加一個輕量級的評估過程。
- 消費者應用程式中快速的使用者體驗（自動完成、輔助氣泡、快速回覆）：再次是 Haiku 4.5。在這裡，延遲比細微差別更重要。
- 用於簡短答案的檢索增強生成：當你的 RAG 實際上檢索到正確的上下文時，Haiku 4.5 可以正常工作。如果你的檢索有雜訊或查詢需要綜合，Sonnet 4 會給你更少的「嗯，差不多了」的回應。
- 複雜的寫作、類似法律的摘要，或任何語氣和謹慎都很重要的事情：Sonnet 4。在這裡，「效能」不是速度——而是判斷力。
- 多工具協調：Sonnet 4。如果你的代理需要計畫而不是手忙腳亂，你想要的是可以計畫的模型。
- 具有嚴格架構要求的批次轉換：Sonnet 4。更少的清理，更少的驗證失敗。
重點是：當正確性很重要時，Sonnet 4 的成本是一個捨入誤差。當它不重要時，Haiku 4.5 就能賺錢。
廉價 Tokens 的隱藏稅
團隊會陷入同樣的陷阱：在所有地方運行 Haiku 4.5，因為每個 token 的分項看起來很棒。然後他們疊加：
突然之間，你的廉價模型配備了輔助輪、觀察員和兩個監護人。同時，據稱價格昂貴的模型只是完成了這項工作。
更成熟的系統成本更高的原因：它們減少了對迴圈中人類的需求。
基準測試與現實：糖果與蔬菜
基準測試是糖果。它們味道很好，而且會直接衝上你的腦袋。現實是蔬菜：儀器化的日誌、錯誤預算、使用者流程，以及你會很高興你建立的無聊儀表板。
在紙面上，Haiku 4.5 在速度和每個 token 的成本方面看起來會很棒。Sonnet 4 在複雜的推理和遵循方面看起來會很棒。但是你的實際堆疊——提示、工具、檢索、速率限制——將設定真正的等級。
如果你做對一件事，請在生產環境中運行 A/B 測試：
- 像成年人一樣定義成功：任務成功率、驗證過程、p95 的延遲，以及（如果適用）下游轉換或 CSAT。
- 不要挑選範例。運行足夠大的群組，以查看奇怪的邊緣情況。模型之間的差異就在於此。
- 衡量返工。如果你正在悄悄地手動修復輸出，那麼你就是在自欺欺人地認為成本。
基準測試很好。相信它們是錯誤的。
真實世界中的成本、速度和效能權衡
讓我們以唯一重要的方式將它們並排放置——當金錢和耐心有限時它們的行為方式。
- Haiku 4.5：每個 token 的成本低，尤其是在簡短的提示和簡潔的輸出方面。非常適合批量操作。
- Sonnet 4：標題價格較高。在準確性可以節省返工的下游成本較低。
- Haiku 4.5：小型作業的延遲較低。感覺是瞬間的，因為它基本上就是。
- Sonnet 4：始終足夠快，尤其是在允許更少的重試和更少來回工具聊天時。
- Haiku 4.5：擅長簡單的任務，檢索能力不錯，在模糊性下很脆弱。
- Sonnet 4：更擅長計畫、工具使用和保持約束。不太可能與自己爭論或編造看似合理的胡說八道。
如果你將 Haiku 4.5 視為一個敏捷的編輯實習生，而將 Sonnet 4 視為一個經驗豐富的文案主管，那麼你就不會犯太大的錯誤。你可以用實習生運送很多東西。你不會讓他們在晚上 11 點負責頭版。
Token 預算的謬誤
其中一個比較愚蠢的痴迷是從提示中削減 tokens，就像你在新年後的一週計算卡路里一樣。是的，修剪掉多餘的部分。不，不要為了節省 0.2 美分而對你的指令進行腦白質切除術。
- 從可見的延遲來看，Haiku 4.5 受益於精簡的提示。它是一輛小型車——輕便使其快速。
- 從品質來看，Sonnet 4 受益於明確的架構和規則。它是一輛旅行轎車——給它一張地圖，讓它開車。
最便宜的提示是你不必除錯的那個。
「但我們兩者都需要」——是的，你可能需要
大多數成熟的堆疊都採用分層方法：
- 在迴圈中保留一個確定性的驗證器——regexes、JSON 架構，無論什麼最不冒犯你的美感。
這使你可以充分利用這兩種模型，而無需重新架構你的良知。它還建立了一個自然的回饋迴圈：如果 Haiku 不斷升級某種模式，那麼你的檢索或提示就需要改進。
使用者體驗如何改變方程式
使用者不關心你使用了什麼模型。他們關心你的應用程式是否快速、有用且不煩人。
- 對於聊天和輔助使用者介面，感知到的速度比原始延遲更重要。串流 tokens。僅在增加信任時才顯示思考。不要炫耀。
- 對於報告生成和結構化輸出，正確性是使用者體驗。正確的答案就是點擊。錯誤的答案就是支援票。
Haiku 4.5 幫助你感覺敏捷。Sonnet 4 幫助你避免道歉電子郵件。
為什麼團隊高估 Haiku 並低估 Sonnet
- 高估 Haiku 4.5：因為第一個演示有效。第二個演示也有效。第十個演示...大部分有效。第 1,000 次運行在您沒有測試的邊緣情況下崩潰，因為您忙於祝賀自己。
- 低估 Sonnet 4：因為標價看起來很高，而且在小樣本上，回報是不可見的。災難性失敗較少的事情是你忘記計算它們。
我們不擅長為罕見事件定價。這就是賭場的運作方式。有時也是 AI 專案的運作方式。
在這裡我要提到 Sider.AI，而不是作為一個強制性的宣傳。像 Sider.AI 這樣的工具有用的原因是它們使雜耍行為變得理智。你可以連接 Claude Haiku 4.5 和 Sonnet 4，按策略路由請求，並實際看到金錢和延遲的去向。儀表板不是角色扮演。模型切換不是花招。當你意識到你的「廉價」通話有 30% 最終會升級時，你可以停止自欺欺人並進行調整。 Sider.AI 不是魔法。它不會使糟糕的提示變得良好，也不會使草率的檢索管道變得周到。但它是誠實的管道。它讓 Haiku 在速度重要的地方快速，並讓 Sonnet 在小心重要的地方小心。如果你讀到這裡，這就是重點。 實用手冊：如何在不猜測的情況下決定模型路由
- 標記你的任務。不是從哲學上——而是從字面上：瑣碎、標準、複雜、受監管。如果分配標籤會讓你感到痛苦，那麼它就不是瑣碎的。
- 預先定義成功和失敗。架構驗證、參考檢查或黃金答案。模糊性是成本隱藏的地方。
- 從 Haiku 4.5 開始處理瑣碎和標準的任務。當驗證失敗或檢索信賴度下降時，升級到 Sonnet 4。
- 對 Haiku 使用簡短的提示；給 Sonnet 更豐富的約束。不要猛踩為高速公路設計的汽車的煞車。
- 記錄一切。延遲、token 計數、升級率、每個任務的支出。如果你不衡量它，你就無法優化它；你只能對它產生感覺。
所有這些都不需要一個委員會。它需要一些好的指標和信任它們的勇氣。
重點案例情境
- 支援摘要：Haiku 4.5 對票證進行第一次處理——濃縮、標記、提取情緒。如果信賴度低或情緒複雜，Sonnet 4 會為代理重寫摘要。總之：每個票證花費的時間更少，升級次數更少。
- 文件品質保證：Sonnet 4 運行嚴格的合規性或政策遵循檢查表。Haiku 4.5 處理死記硬背的檢查並標記異常情況。總之：更低的誤報率，更少昂貴的人工審閱。
- 銷售支援：Haiku 4.5 從筆記中起草簡短的電子郵件。Sonnet 4 使用語氣和細微差別來完成長篇提案。總之：在 C 級主管面前沒有「親愛的 {FirstName}」的時刻。
- 程式碼輔助：Haiku 4.5 非常適合樣板程式碼和明顯的重構。Sonnet 4 更擅長多檔案推理並像打算遵循它們一樣閱讀你的工具說明。
需要注意的失敗模式
- 自信的摘要器：Haiku 4.5 濃縮一份文件並刪除了一個關鍵的「不」。在法律部門發現之前，你不會注意到。使用驗證來修復，或在否定重要的地方使用 Sonnet 4。
- 架構漂移者：Haiku 在壓力下在巢狀 JSON 上搖擺不定。Sonnet 堅守陣線。如果你的堆疊在錯誤的 JSON 上崩潰，你已經知道這種痛苦。
- 工具健談者：對於代理，Haiku 會對模糊的指令進行額外的工具調用。Sonnet 傾向於先計畫，然後行動。工具帳單不關心你的代理的名字有多可愛。
關於道德和安全的注意事項（重要的無聊部分）
你可以外包能力，而不是責任。Sonnet 4 通常在開箱即用的情況下能更好地處理安全和策略，因為它經過訓練可以抵抗某些提示彎曲的惡作劇。Haiku 4.5 不太固執——但也不太謹慎。如果你的領域包含受監管的內容或敏感資料，請選擇在說更少而不是更多方面犯錯的那個。一次錯誤披露的成本會使你的 token 預算相形見絀。
元權衡：控制與便利
你越希望模型感覺像一個子程式，你就會越欣賞 Sonnet 4 對指令的遵守。你越希望它感覺像一個對話式助手，Haiku 4.5 輕鬆的輸出就越感覺自然。
這兩種人格都有其位置。錯誤是假裝你必須永遠選擇一個。你現在可以為此任務選擇一個。你可以明天改變主意。它是軟體，而不是紋身。
那麼「面向未來」呢？
你不能。模型會改變。定價會改變。能力會蔓延。這就是工作。最好的對沖是設計你的系統，使模型選擇成為一種配置，而不是重寫。
當下一個「Sonnet 5」或「Haiku 5.1」到來時，你應該能夠在午餐期間將其換入，並在晚餐時獲得真實的數字。
關於「AI 策略」的隱藏真相
關於 AI 策略有很多令人屏息的談論，這些策略讀起來像是有知覺的 PowerPoint。不迷人的真相是你的策略是：使用廉價、快速的模型，直到它造成傷害；在重要的地方使用謹慎、更昂貴的模型；衡量一切；相應地路由。就是這樣。這就是推文。
如果你想在會議中聽起來很聰明，請說：「讓我們將 Haiku 視為預設值，並將 Sonnet 作為升級路徑。我們將設定驗證和信賴度的閾值，並每月重新審視。」然後實際執行它。
關閉迴圈
Claude Haiku 4.5 vs Sonnet 4 不是競爭。這是一種勞動分工。Haiku 4.5 是敏捷的游擊手；Sonnet 4 是看到整個球場並且不讓任何東西過去的捕手。你可以用任何一個贏得比賽。你可以用兩者贏得賽季。
如果你堅持一句話的結論，那就是：當速度和成本佔主導地位時使用 Haiku 4.5，當正確性佔主導地位時使用 Sonnet 4，並使用 Sider.AI 向自己證明哪個是哪個。不是因為試算表這麼說，而是因為日誌這麼說。 如果你仍然舉棋不定，請運行測試。現實的好處是它不在乎你的期望。
常見問題
Q1：哪個更便宜：Claude Haiku 4.5 還是 Sonnet 4？
Claude Haiku 4.5 每個 token 的成本更低，並且在小型作業中通常更快。當正確性很重要時，Sonnet 4 的總體成本可能更低，因為你可以避免重試和人工清理。
Q2：Claude Haiku 4.5 更適合即時應用程式嗎？
通常是的。Haiku 4.5 對於簡短的提示和快速的回應具有更低的延遲，這使得聊天使用者介面和自動完成感覺很敏捷。只是不要將其用於錯誤答案成本很高的任務。
Q3：我應該在什麼時候選擇 Sonnet 4 而不是 Haiku 4.5？
對於多步驟推理、必須驗證的結構化輸出，或任何具有法律、合規性或品牌風險的事項，請選擇 Sonnet 4。它更擅長遵循指令並遵守約束。
Q4：我可以在一個工作流程中混合使用這兩種模型嗎？
你应该。將瑣碎的任務路由到 Claude Haiku 4.5，並將邊緣情況或失敗升級到 Sonnet 4。這種混合方法可以優化成本、速度和效能，而無需英雄主義。
Q5：我該如何衡量成本、速度和效能之間的實際權衡？
對您的系統進行儀器化：追蹤第 95 百分位延遲、token 數量、驗證通過率和升級率。像 Sider.AI 這樣的工具可以更輕鬆地在模型之間進行路由，並查看實際能節省多少資金。 
