Ox Alpha 最近在 OpenRouter 上跑出一個(gè)很顯眼的數(shù)字三天處理 11.6T tokens直接創(chuàng)下 OpenRouter 上的調(diào)用量紀(jì)錄。這個(gè)量級(jí)放在模型調(diào)用場(chǎng)景里意味著它背后有大量真實(shí)任務(wù)在持續(xù)消耗而不是偶爾跑幾個(gè)演示請(qǐng)求。如果你在做 AI 編程、批量文本處理或者 Agent 類應(yīng)用這次事件最值得看的不是“破紀(jì)錄”本身而是三個(gè)問(wèn)題什么任務(wù)會(huì)消耗這么多 tokens怎么通過(guò) OpenRouter 這類網(wǎng)關(guān)調(diào)用模型以及接入本地工具時(shí)應(yīng)該按什么順序排查問(wèn)題。1. 一條 11.6T tokens 的使用紀(jì)錄為什么值得關(guān)注1.1 這個(gè)數(shù)字到底意味著什么11.6T tokens 是 11.6 萬(wàn)億個(gè) token。多數(shù)大模型服務(wù)在統(tǒng)計(jì)用量時(shí)按 token 計(jì)11.6T 約等于 1160 萬(wàn)個(gè)“百萬(wàn) token”。如果按一個(gè)普通請(qǐng)求消耗幾千 tokens 來(lái)估算這個(gè)體量背后是海量請(qǐng)求在持續(xù)打進(jìn)來(lái)說(shuō)明 Ox Alpha 在 OpenRouter 上的調(diào)用熱度非常高。需要先說(shuō)明的是這個(gè)數(shù)字是“處理量”包含輸入和輸出兩部分的 token 消耗。換句話說(shuō)調(diào)用方可能喂進(jìn)去大量上下文模型也生成了大量結(jié)果。三天跑完 11.6T平均每天接近 3.9T tokens。這種級(jí)別的流量不是個(gè)人開發(fā)者在本地跑幾個(gè)腳本能產(chǎn)生的更可能來(lái)自自動(dòng)化的批量任務(wù)、編程 Agent 的循環(huán)調(diào)用或者開放給大量用戶的在線服務(wù)。我更關(guān)注的是這個(gè)數(shù)字傳遞出的幾個(gè)信號(hào)。第一Ox Alpha 在 OpenRouter 上的接入鏈路是通的模型路由、計(jì)費(fèi)、限流都能支撐大規(guī)模請(qǐng)求。第二消耗大不代表模型“貴”反而可能代表它在某些任務(wù)上有性價(jià)比否則不會(huì)有這么多調(diào)用方愿意持續(xù)使用。第三對(duì)這個(gè)模型感興趣的人應(yīng)該先搞清楚它適合什么任務(wù)而不是盲目把配置復(fù)制到自己的項(xiàng)目里。1.2 誰(shuí)更應(yīng)該關(guān)注這次事件如果你屬于下面幾類人這次事件和你的關(guān)系比較大正在用 AI 編程工具寫代碼想知道除了常用模型之外還有什么可選方案。在做 Agent 類應(yīng)用需要處理長(zhǎng)上下文和大量循環(huán)調(diào)用對(duì) token 消耗敏感。自己維護(hù)了一批本地工具想通過(guò) OpenRouter 這類接口統(tǒng)一接入多個(gè)模型。剛接觸 API 調(diào)用想搞明白 tokens、TPM 這些概念和實(shí)際操作方式。如果只是偶爾用網(wǎng)頁(yè)版聊聊天那 11.6T tokens 這個(gè)數(shù)字對(duì)你意義不大。你更應(yīng)該關(guān)注的是模型在具體任務(wù)上的表現(xiàn)。流量高不代表每個(gè)場(chǎng)景都好用只能說(shuō)明它在某些任務(wù)上被大量驗(yàn)證過(guò)。2. 看懂 tokens、TPM 和 OpenRouter 在其中的角色2.1 tokens 不是字?jǐn)?shù)是模型處理文本的基本單位很多剛接觸 API 的人會(huì)把 tokens 理解成“字?jǐn)?shù)”這個(gè)理解不準(zhǔn)確。token 是模型處理文本的最小單元可能是半個(gè)詞、一個(gè)詞、一個(gè)標(biāo)點(diǎn)也可能是一個(gè)中文字符或幾個(gè)字符的組合。英文里一個(gè)單詞通常對(duì)應(yīng) 1 到 2 個(gè) token中文一個(gè)字可能對(duì)應(yīng) 1 到 2 個(gè) token。所以同樣字?jǐn)?shù)的英文和中文實(shí)際消耗的 tokens 可能差不少。實(shí)際計(jì)費(fèi)時(shí)輸入和輸出都算 tokens。輸入包括系統(tǒng)提示詞、歷史對(duì)話、附帶文檔等輸出是模型生成的內(nèi)容。一個(gè)長(zhǎng)對(duì)話或者一次帶大量背景材料的調(diào)用輸入占比可能非常高。這一點(diǎn)在調(diào)模型時(shí)很關(guān)鍵。很多人只看輸出長(zhǎng)度忽略了輸入上下文本身就在持續(xù)消耗。尤其做批量任務(wù)時(shí)如果每條請(qǐng)求都重復(fù)帶上大段系統(tǒng)提示詞累積消耗會(huì)比你預(yù)想的高很多。2.2 TPM 是并發(fā)能力的重要參考指標(biāo)TPM 是 tokens per minute單位是“每分鐘處理的 token 數(shù)”。按 OpenRouter 等平臺(tái)的常見(jiàn)口徑TPM 等于輸入 token 加輸出 token 的總和。它反映的不是模型本身的速度而是你的賬號(hào)、模型路由、服務(wù)端在單位時(shí)間內(nèi)允許通過(guò)的流量。如果限流設(shè)置是 10K TPM你一次請(qǐng)求就消耗了 8K tokens那這一分鐘內(nèi)剩下的請(qǐng)求就會(huì)被限制甚至出現(xiàn) 429 之類的限流錯(cuò)誤。所以做批量任務(wù)時(shí)不能只看單次請(qǐng)求能不能成功還要算好每分鐘的消耗節(jié)奏。調(diào)整并發(fā)時(shí)我一般會(huì)先看 TPM而不是先看請(qǐng)求數(shù)。請(qǐng)求數(shù)只是表象真正決定限流的是 token 總量。一個(gè)請(qǐng)求可能只算一次調(diào)用但消耗了 20K tokens兩個(gè)并發(fā)就可能把額度打滿。反過(guò)來(lái)如果你一次請(qǐng)求只消耗幾百 tokens那并發(fā)開高一點(diǎn)問(wèn)題也不大。2.3 OpenRouter 在這里扮演了什么角色OpenRouter 是一個(gè)模型接入網(wǎng)關(guān)它把不同廠商、不同版本的模型統(tǒng)一到一個(gè) API 接口后面。你只需要一個(gè) API Key就能通過(guò)同一個(gè)地址請(qǐng)求不同模型不需要為每個(gè)模型單獨(dú)注冊(cè)、單獨(dú)對(duì)接。這種模式有幾個(gè)好處。第一切換模型時(shí)接口結(jié)構(gòu)基本不變只需要改模型 ID。第二按調(diào)用量計(jì)費(fèi)不同模型的價(jià)格在后臺(tái)比較透明。第三可以在一個(gè)后臺(tái)看到多個(gè)模型的用量、費(fèi)用和限流情況。缺點(diǎn)也存在。多了一層網(wǎng)關(guān)之后出問(wèn)題時(shí)需要判斷到底是模型本身的問(wèn)題還是網(wǎng)關(guān)路由、余額、限流的問(wèn)題。這在實(shí)際排查時(shí)是最容易繞彎路的地方。Ox Alpha 能在三天內(nèi)跑出 11.6T tokens說(shuō)明它作為 OpenRouter 上的一個(gè)可調(diào)用模型接入鏈路已經(jīng)被大量任務(wù)驗(yàn)證過(guò)。你在本地接入時(shí)如果遇到問(wèn)題重點(diǎn)應(yīng)該先檢查自己的模型 ID、API Key 和網(wǎng)絡(luò)條件而不是第一時(shí)間懷疑模型本身。3. 從零跑通 Ox Alpha注冊(cè)、密鑰和最小調(diào)用3.1 注冊(cè)與獲取 API Key使用 OpenRouter 的第一步是注冊(cè)賬號(hào)并生成 API Key。流程大致是訪問(wèn) OpenRouter 網(wǎng)站完成注冊(cè)登錄進(jìn)入 API Keys 頁(yè)面創(chuàng)建 Key。創(chuàng)建后會(huì)得到一串密鑰一般以 sk-or- 開頭在代碼里作為請(qǐng)求頭的鑒權(quán)信息使用。這里有幾個(gè)實(shí)操上的注意點(diǎn)。API Key 只在創(chuàng)建時(shí)完整顯示一次之后只能查看部分字符。建議創(chuàng)建后立刻保存到自己的密鑰管理工具里不要放在聊天記錄里。API Key 要按環(huán)境分開管理本地開發(fā)和線上服務(wù)不要共用同一個(gè) Key這樣定位用量和排查問(wèn)題都更方便。團(tuán)隊(duì)使用時(shí)不要讓 Key 出現(xiàn)在代碼倉(cāng)庫(kù)里尤其是公開倉(cāng)庫(kù)。關(guān)于充值OpenRouter 支持多種支付方式具體支付渠道在不同地區(qū)可能不一樣支付寶這類方式是否可用要以你注冊(cè)賬號(hào)時(shí)實(shí)際看到的選項(xiàng)為準(zhǔn)。我的建議是先充一個(gè)很小的金額跑通流程后再?zèng)Q定要不要提高額度。網(wǎng)上有提到注冊(cè)贈(zèng)送 tokens 之類的活動(dòng)但這類規(guī)則經(jīng)常變化不能作為長(zhǎng)期依賴。3.2 用 API 發(fā)出第一次請(qǐng)求拿到 API Key 后先別急著接入工具直接用命令行或腳本發(fā)一次請(qǐng)求確認(rèn)基礎(chǔ)鏈路是通的。OpenRouter 的接口風(fēng)格和多數(shù)大模型廠商類似請(qǐng)求地址是 OpenRouter 的 chat/completions 端點(diǎn)請(qǐng)求體里指定 model、messages 等字段。Ox Alpha 具體的模型 ID 要以 OpenRouter 模型列表里的實(shí)際名稱為準(zhǔn)。網(wǎng)絡(luò)上有提到 stealth/ox-alpha 這種帶廠商前綴的寫法但模型 ID 可能隨版本調(diào)整最好在模型頁(yè)面直接復(fù)制。一個(gè)最小請(qǐng)求示例大概是這樣curl https://openrouter.ai/api/v1/chat/completions \ -H Authorization: Bearer YOUR_API_KEY \ -H Content-Type: application/json \ -d { model: stealth/ox-alpha, messages: [ {role: user, content: 你好請(qǐng)用一句話介紹你自己} ] }這里的 YOUR_API_KEY 要替換成你自己的密鑰。返回結(jié)果里通常會(huì)包含模型生成的內(nèi)容以及 usage 字段。usage 里會(huì)給出 prompt_tokens輸入 tokens、completion_tokens輸出 tokens和 total_tokens總消耗。這一步的驗(yàn)證標(biāo)準(zhǔn)有兩個(gè)請(qǐng)求能正常返回不報(bào) 401、402、404 這類錯(cuò)誤。usage 字段里的數(shù)字是合理的不會(huì)出現(xiàn)明顯異常。如果返回報(bào)錯(cuò)先把報(bào)錯(cuò)信息完整復(fù)制下來(lái)。大多數(shù)情況下錯(cuò)誤信息已經(jīng)能告訴你是鑒權(quán)問(wèn)題、余額問(wèn)題還是模型 ID 問(wèn)題。3.3 在 OpenRouter 頁(yè)面直接體驗(yàn)如果你不想先寫代碼也可以在 OpenRouter 頁(yè)面上找到對(duì)應(yīng)模型直接在網(wǎng)頁(yè)對(duì)話框里試一下。這樣做的好處是不用先處理 API Key 就能驗(yàn)證模型的基礎(chǔ)能力也能對(duì)對(duì)話消耗有個(gè)直觀認(rèn)識(shí)還能先判斷模型適不適合你的任務(wù)再?zèng)Q定要不要寫代碼接入。不過(guò)網(wǎng)頁(yè)預(yù)覽和 API 調(diào)用不完全等價(jià)。某些參數(shù)在網(wǎng)頁(yè)上可能被簡(jiǎn)化了比如系統(tǒng)提示詞、temperature、top_p 這些參數(shù)在 API 里可以精確控制網(wǎng)頁(yè)端未必暴露全。所以網(wǎng)頁(yè)測(cè)試通過(guò)后仍然建議用 API 再跑一次真實(shí)請(qǐng)求確認(rèn)鏈路完整。4. 接入本地工具Claude Code、opencode、workbuddy 的配置思路很多人問(wèn) Ox Alpha 能不能接入本地工具比如 Claude Code、opencode、workbuddy。這里先說(shuō)結(jié)論能不能接入取決于這些工具是否支持自定義模型端點(diǎn)。如果支持接入路徑基本都是“設(shè)置 Base URL API Key 模型 ID”只是不同工具的配置界面和參數(shù)名不同。4.1 Claude Code 接入 OpenRouter 模型的通用配置Claude Code 這類工具默認(rèn)對(duì)接 Anthropic 的模型但不少版本支持通過(guò)環(huán)境變量或配置文件來(lái)修改模型端點(diǎn)。要接入 OpenRouter 上的模型核心思路是把模型請(qǐng)求轉(zhuǎn)發(fā)到 OpenRouter 的接口同時(shí)設(shè)置 API Key 和模型 ID 為 Ox Alpha 對(duì)應(yīng)的名稱。具體參數(shù)名和格式不同版本、不同啟動(dòng)方式可能有差異。我建議按下面順序操作查看你所用工具的官方文檔確認(rèn)是否支持自定義模型端點(diǎn)。找到環(huán)境變量配置入口通常是 ANTHROPIC_BASE_URL、ANTHROPIC_AUTH_TOKEN 這類變量名把地址指向 OpenRouter 的接口把 token 設(shè)為你的 OpenRouter API Key。在模型參數(shù)里填 Ox Alpha 的模型 ID。用一次最簡(jiǎn)單的對(duì)話驗(yàn)證是否生效。這里有三個(gè)容易踩坑的地方。第一環(huán)境變量名拼錯(cuò)或者沒(méi)生效?？梢韵仍诮K端里輸出一下變量確認(rèn)已經(jīng)加載。第二工具默認(rèn)會(huì)帶上它自己的模型名稱覆蓋了你設(shè)置的模型 ID這需要在配置里顯式指定。第三有些工具會(huì)用自己的鑒權(quán)方式導(dǎo)致 OpenRouter 返回 401這時(shí)要看工具的日志確認(rèn)實(shí)際發(fā)出的 Authorization 頭是不是你的 OpenRouter Key。4.2 opencode 這類開源編輯器怎么指定模型opencode 是另一類支持接入 OpenRouter 的開源工具。它的配置通?；谂渲梦募锩鏁?huì)列出 provider、model、apiKey 等字段。接入 Ox Alpha 時(shí)應(yīng)該在 provider 里選擇或者自定義 OpenRouter并把模型 ID 寫成 Ox Alpha 的實(shí)際名稱。配置完成后別急著直接開始大任務(wù)。先用一個(gè)小問(wèn)題驗(yàn)證模型是否被正確路由。比如讓它寫一段幾行的 Python 代碼看返回內(nèi)容是否符合預(yù)期。如果返回的是別的模型說(shuō)明模型 ID 沒(méi)生效或者被配置里的默認(rèn)模型覆蓋了。這類工具還有一個(gè)常見(jiàn)問(wèn)題模型列表不是實(shí)時(shí)拉取的配置完成后需要重啟或者手動(dòng)刷新才能看到新模型。如果列表里一直找不到先檢查配置文件里的模型 ID 是否和 OpenRouter 頁(yè)面完全一致包括大小寫和斜杠前綴。4.3 配置后找不到模型怎么辦很多人在 OpenRouter 后臺(tái)配置 API Key 后發(fā)現(xiàn)模型列表里找不到 stealth/ox-alpha 這個(gè)模型。這個(gè)問(wèn)題通常有幾個(gè)原因模型 ID 寫錯(cuò)了。OpenRouter 的模型 ID 一般帶組織或廠商前綴大小寫敏感。建議在模型頁(yè)面直接復(fù)制不要手打。模型在某個(gè)區(qū)域或賬號(hào)類型下不可見(jiàn)。有些模型可能因?yàn)橄拗?、下架或灰度原因不是?duì)所有賬號(hào)都顯示。工具只拉取了一部分模型列表或者有緩存。可以嘗試重啟工具、刷新模型列表。輸入法、空格、換行等不可見(jiàn)字符混進(jìn)了配置。這在復(fù)制粘貼模型 ID 時(shí)偶爾會(huì)發(fā)生。遇到這種情況我的排查順序是先打開 OpenRouter 模型頁(yè)面搜索模型名確認(rèn)它確實(shí)存在且模型 ID 正確再檢查 API Key 是否有對(duì)應(yīng)模型的訪問(wèn)權(quán)限最后再看工具配置里模型 ID 有沒(méi)有拼錯(cuò)。大多數(shù)情況下問(wèn)題出在第一步和第三步。5. 什么任務(wù)消耗 tokens 最大以及如何控制成本Ox Alpha 三天跑出 11.6T tokens很多人會(huì)好奇到底什么任務(wù)會(huì)消耗這么多 token我自己接觸下來(lái)高消耗任務(wù)通常不是單次請(qǐng)求特別大而是“大上下文 循環(huán)調(diào)用 高并發(fā)”的組合。5.1 高消耗任務(wù)的共同特征第一類是 AI 編程。代碼補(bǔ)全和對(duì)話看起來(lái)單次消耗不多但 Agent 循環(huán)會(huì)反復(fù)讀取文件、生成候選代碼、執(zhí)行測(cè)試、根據(jù)報(bào)錯(cuò)再次修改。一次完整的修改任務(wù)可能跑幾十輪每輪都帶著大量代碼上下文累計(jì)起來(lái)非?？捎^。這也是為什么編程類模型在 OpenRouter 上經(jīng)常占據(jù)流量大頭。第二類是長(zhǎng)文檔處理。比如讓模型總結(jié)一本書、分析一份完整合同、對(duì)一批文檔做批量改寫。輸入文本越長(zhǎng)每次請(qǐng)求的基礎(chǔ)消耗就越高。如果你把 5000 字的文檔切分成 50 份分別處理總消耗可能比一次處理還要高因?yàn)槊糠荻家貜?fù)帶上系統(tǒng)提示詞和任務(wù)說(shuō)明。第三類是 Agent 編排任務(wù)。一個(gè) Agent 在執(zhí)行多步任務(wù)時(shí)每步都要把歷史信息、中間結(jié)果、工具返回內(nèi)容重新作為上下文傳給模型。上下文越長(zhǎng)每一步的消耗越高而且是累積增長(zhǎng)而不是線性增長(zhǎng)。第四類是實(shí)時(shí)流式應(yīng)用比如客服機(jī)器人、代碼審查機(jī)器人。這類應(yīng)用請(qǐng)求頻率高雖然單次消耗不大但全天候運(yùn)行下來(lái)總量非常驚人。三天 11.6T tokens 這個(gè)量級(jí)背后幾乎肯定有這類持續(xù)型任務(wù)。任務(wù)類型單次消耗特點(diǎn)總量風(fēng)險(xiǎn)AI 編程中低但循環(huán)多累計(jì)消耗高長(zhǎng)文檔處理單次高輸入上下文決定Agent 多步任務(wù)隨步數(shù)累加輪數(shù)越多消耗越大實(shí)時(shí)流式應(yīng)用單次低頻率高全天累積5.2 控制 tokens 消耗的實(shí)用手段先說(shuō)結(jié)論控制 tokens 消耗核心不是減少輸出而是控制輸入上下文的增長(zhǎng)。系統(tǒng)提示詞保持精簡(jiǎn)不要把幾十條規(guī)則全部堆進(jìn)去。長(zhǎng)對(duì)話定期裁剪歷史記錄只保留最近幾輪和高價(jià)值信息。使用摘要壓縮早期對(duì)話而不是把完整歷史一直帶上。批量任務(wù)復(fù)用 prompt 模板減少重復(fù)文本。給請(qǐng)求設(shè)置合理的 max_tokens 上限避免輸出失控。另外一個(gè)容易被忽略的點(diǎn)是 TPM。如果你的賬號(hào) TPM 限制比較低批量任務(wù)時(shí)要在代碼里做限速比如控制每秒請(qǐng)求數(shù)估算每次請(qǐng)求預(yù)計(jì)消耗的 tokens再?zèng)Q定并發(fā)數(shù)。不要一上來(lái)就開最大并發(fā)否則很容易觸發(fā)限流報(bào)錯(cuò)然后任務(wù)失敗重來(lái)反而消耗更多。我一般習(xí)慣是先跑 10 條樣例看總消耗、平均單條消耗和失敗率再根據(jù)結(jié)果把任務(wù)拆成多個(gè)批次。這樣既能控制成本也方便定位哪條數(shù)據(jù)導(dǎo)致了異常消耗。6. 常見(jiàn)問(wèn)題排查和使用邊界6.1 按優(yōu)先級(jí)排序的排查鏈路接入 Ox Alpha 或任何 OpenRouter 模型時(shí)遇到問(wèn)題不要直接懷疑模型能力。我建議按下面順序排查看現(xiàn)象是請(qǐng)求報(bào)錯(cuò)、返回為空、速度極慢還是結(jié)果質(zhì)量不對(duì)不同現(xiàn)象對(duì)應(yīng)的排查方向完全不一樣?？?API Key 和余額401 通常是 Key 無(wú)效或沒(méi)傳對(duì)402 通常是余額不足。這兩個(gè)錯(cuò)誤最常見(jiàn)?？茨Ｐ?ID404 或模型不存在優(yōu)先檢查模型 ID 是否拼寫正確、是否帶完整前綴、大小寫是否一致?？淳W(wǎng)絡(luò)連通性O(shè)penRouter 是多層網(wǎng)關(guān)架構(gòu)你的請(qǐng)求要能正常到達(dá)它的服務(wù)。可以先發(fā)一個(gè)最簡(jiǎn)單的請(qǐng)求驗(yàn)證基礎(chǔ)連通性。看限流和配額429 錯(cuò)誤代表觸發(fā)了限流查看響應(yīng)頭或錯(cuò)誤信息里的限制參數(shù)。如果后臺(tái)顯示額度正常也可能是 TPM 限制?？垂ぞ吲渲媒尤?Claude Code、opencode 這類工具時(shí)確認(rèn) Base URL、API Key、模型 ID 三個(gè)字段都正確寫入沒(méi)有空格環(huán)境變量也真的生效了?？茨Ｐ捅旧頎顟B(tài)如果請(qǐng)求能發(fā)出但總是返回錯(cuò)誤可以到 OpenRouter 模型頁(yè)面看模型狀態(tài)是否正常比如是否處于下線、限流或維護(hù)中。這套順序的核心邏輯是先排除那些最容易修改、影響面最大的外部條件最后才懷疑模型本身。實(shí)際踩坑經(jīng)驗(yàn)里十次有八次是 Key、模型 ID、限流或網(wǎng)絡(luò)連通性的問(wèn)題而不是模型不能跑。錯(cuò)誤現(xiàn)象可能原因優(yōu)先檢查401 UnauthorizedAPI Key 無(wú)效或沒(méi)傳對(duì)Authorization 頭和 Key 是否完整402 Payment Required余額不足賬號(hào)余額和計(jì)費(fèi)設(shè)置404 Model Not Found模型 ID 錯(cuò)誤模型 ID、大小寫、前綴429 Too Many Requests限流或 TPM 超限限流響應(yīng)頭、請(qǐng)求頻率模型列表里找不到模型不可見(jiàn)或緩存模型頁(yè)面狀態(tài)、工具緩存6.2 使用邊界與期望值管理最后說(shuō)一點(diǎn)使用邊界。一個(gè)模型在 OpenRouter 上跑出很高流量說(shuō)明它在某些任務(wù)上被廣泛驗(yàn)證但不等于它適合所有場(chǎng)景。你需要關(guān)注幾個(gè)邊界。第一模型 ID 可能隨版本調(diào)整代碼里盡量做成配置項(xiàng)而不是硬編碼。第二OpenRouter 是聚合網(wǎng)關(guān)不同模型返回格式可能略有差異尤其是 tool call、流式輸出、結(jié)構(gòu)化輸出部分。第三批量任務(wù)要考慮失敗重試單個(gè)請(qǐng)求失敗不能代表整個(gè)任務(wù)失敗但也不能無(wú)限重試。我一般設(shè)置最多 2 到 3 次重試重試之間留指數(shù)退避。第四每秒請(qǐng)求數(shù)、每分鐘 tokens、單次請(qǐng)求上下文長(zhǎng)度都有限制生產(chǎn)環(huán)境要在代碼里做節(jié)流和隊(duì)列。第五免費(fèi)額度或贈(zèng)送 tokens 的規(guī)則經(jīng)常變化不能依賴某個(gè)固定額度長(zhǎng)期使用。如果你的目標(biāo)是學(xué)習(xí)先用小額度、小任務(wù)跑通鏈路就夠了。如果要長(zhǎng)期使用建議把 API Key、模型 ID、用量統(tǒng)計(jì)、日志、重試策略都整理成標(biāo)準(zhǔn)配置這樣切換模型或排查問(wèn)題時(shí)都能省很多事。11.6T tokens 的紀(jì)錄是別人的流量你能穩(wěn)定跑通自己的任務(wù)才是這件事真正有價(jià)值的地方。