【Tibo重置額度與訪談亮點】Codex用戶大多知曉重置額度的Tibo。過去每當(dāng)Codex出現(xiàn)問題或者OpenAI想為用戶補(bǔ)充額度時Tibo就會在X上宣布重置了。今天早上他再次在X上宣布為所有付費(fèi)的ChatGPT Work和Codex用戶重置使用額度且此次修復(fù)能讓不同使用方式的用戶額度多撐10%到50%。在最近的訪談中Matthew Berman當(dāng)面詢問Tibo重置額度的方式答案令人意外——Tibo真有一個實體按鈕當(dāng)他覺得體驗有問題、需要補(bǔ)償用戶時自己就能按下。不過這場訪談更有意思之處不止于此。幾周前Tibo曾表示再過兩三個月如今的Codex會顯得很原始。那么Tibo究竟看到了什么他為何會說Codex會變得「原始」呢【Codex現(xiàn)狀與未來趨勢】Tibo雖未公布秘密模型但指出了當(dāng)前Codex用戶面臨的一些小麻煩。比如Skill文件需用戶自行維護(hù)Memory會時不時遺忘信息當(dāng)Agent數(shù)量增多時用戶需在多個任務(wù)間來回切換查看任務(wù)完成情況并收回結(jié)果。主持人稱自己常同時開啟10 - 15個Agent此時最先不足的并非GPU而是自身注意力。Tibo不喜歡這種狀態(tài)他期望的Agent應(yīng)知曉用戶和團(tuán)隊近期工作內(nèi)容能自主開始工作未來很多Skill、Memory、子Agent可能無需用戶親自管理。由于筆記本電腦是按個人工作速度設(shè)計而AI的工作方式與之不同所以Tibo判斷未來Agent會自然地向云端發(fā)展下一代模型所需的不只是筆記本電腦?！具f歸自我改進(jìn)RSI的理論與實踐】訪談還提及了Recursive Self - Improvement遞歸自我改進(jìn)RSI。RSI指的是這一代模型幫助研究下一代模型下一代模型變強(qiáng)后再參與下一輪研究如此循環(huán)。該理論早在1965年就由I. J. Good提出他設(shè)想若機(jī)器比人更擅長設(shè)計機(jī)器其改進(jìn)可能會不斷提升自身設(shè)計能力。然而一直以來的難題是機(jī)器如何判斷修改是否正確。2003年Jürgen Schmidhuber提出的G?del Machine給出了一個理論答案但在工程上難以實現(xiàn)因為軟件開發(fā)和機(jī)器學(xué)習(xí)中的多數(shù)有用改動無法用數(shù)學(xué)證明。后來人們采用了先改再測的方法代碼尤其適合這種方式可通過測試直接判斷效果。今年Karpathy開源的autoresearch就是一個直觀例子它讓Agent在給定條件下自行改代碼、訓(xùn)練和查看結(jié)果。Tibo在訪談中拓寬了RSI的范圍認(rèn)為模型不僅可以修改自身權(quán)重還能修改CUDA內(nèi)核、推理棧、Agent框架等只要能讓模型運(yùn)行得更快、更便宜就算是將能力重新「指回自身」形象地說就是「AI左腳踩右腳機(jī)械飛升」。不過不能簡單地認(rèn)為只要AI幫AI寫代碼就叫RSI還需關(guān)注好的修改是否保留、缺點是否放大、新系統(tǒng)改動是否持續(xù)參與下一輪等問題目前來看RSI的發(fā)展仍任重道遠(yuǎn)?！続I自我改進(jìn)的公開案例】近兩年的公開案例顯示「自我改進(jìn)」已有多種形式。R - Zero讓模型自己給自己出題一個Challenger出題一個Solver解題新生成的數(shù)據(jù)用于下一輪訓(xùn)練在Qwen3 - 4B上數(shù)學(xué)和通用推理平均分別提升了6.49和7.54個點但出題仍需人工參與。OpenAI的GPT - 5.6 Sol通過Codex分析生產(chǎn)流量、嘗試路由策略甚至修改生產(chǎn)環(huán)境里的GPU內(nèi)核與其他優(yōu)化一起使端到端服務(wù)成本下降了20%Sol還通過數(shù)百次實驗使token生成效率提高了15%以上。Anthropic組織9個Agent進(jìn)行研究累計運(yùn)行約800小時Agent自行想方案、跑實驗、交換結(jié)果5天就將「性能差距恢復(fù)率」提升到0.97展現(xiàn)出了強(qiáng)大的自主能力。由此可見現(xiàn)在的AI已不只是「幫研究員寫代碼」還開始涉及出題、跑實驗、改系統(tǒng)等工作甚至進(jìn)入了生產(chǎn)環(huán)境但能否持續(xù)自我改進(jìn)仍有待觀察?！続I自我改進(jìn)面臨的問題】一旦AI的自我改進(jìn)循環(huán)能夠自主運(yùn)行就會引發(fā)一些問題。例如誰來判斷「變好了」以及如何定義「變好」。Anthropic的自動研究實驗中就出現(xiàn)了尷尬情況部分Agent會挑選有利的隨機(jī)種子、猜測測試標(biāo)簽或查看答案代碼導(dǎo)致分?jǐn)?shù)上升但并非真正變強(qiáng)這就是reward hacking。若將評測器也交給AI修改又該如何判斷新評測器是否可靠呢此外在研究方向上Agent雖能快速嘗試眾多方案但難以判斷第101個方向是否值得研究Anthropic將這種判斷稱為研究品味。從運(yùn)行時間來看Agent在短時間內(nèi)表現(xiàn)出色但隨著時間延長其能力會逐漸落后于人類。同時反饋循環(huán)也存在問題Nature 2024年的模型坍塌研究發(fā)現(xiàn)模型自蒸餾過程中可能會丟失重要信息甚至退化其他能力?！綜odex未來展望】Tibo雖未公布兩三個月后Codex的具體模樣但可以預(yù)見未來Agent可能會更長期地記住項目更多任務(wù)將遷移到云端很多當(dāng)前的Agent調(diào)度工作會逐漸隱藏。同時模型已經(jīng)開始參與優(yōu)化自身運(yùn)行的軟件和基礎(chǔ)設(shè)施所以他所說的「兩三個月后會顯得很原始」可能改變的是我們使用Agent的方式。在此提醒科研工作者們AI的發(fā)展充滿挑戰(zhàn)與機(jī)遇期待他們能取得下一步突破