內湖分店 新店分店 中和分店 法拍部 商務中心 

Jev突然爆火刷屏:不會聊天,不寫代碼,只做判斷

    這兩天,一個有點反常的AI模型突然刷屏了。

    它叫Jev。

    不會聊天,不寫代碼,甚至不會像ChatGPT一樣給你生成一大段答案。它只干一件事:做判斷。

    但就是這樣一個看起來“能力被砍了一大半”的模型,卻突然在開發者圈火了。

    有人用它40秒分析724條實時廣告,總共做出8724次判斷;有人把它接進Claude Code,專門清理沒用的上下文;還有人讓它給AI Agent當“裁判”,檢查任務到底有沒有真的完成。LangChain也已經開始測試Jev作為Agent評估器的表現。

    更誇張的是速度和價格。

    TypeSafe公布的測試中,Jev最高提速約193.6倍,成本最多降低444.6倍。輸入每百萬Token只要0.042美元,輸出Token甚至免費。

    一個能力看起來更少的AI,為什麼反而火了?

    因為到了Agent時代,AI真正需要的可能不只是“深思熟慮”,還有海量、快速、便宜的判斷:下一步做什麼、該調用哪個工具、任務到底完成沒有。更重要的是,這些判斷未來需要AI自己在後台完成,不再需要人一直坐在螢幕前盯著。Jev看上的,就是這些每天可能發生幾百萬次的小決定。

    更有意思的是,Jev模型創始人Diogo Almeida,恰恰參與過RLHF,而現在他開始反思RLHF:這套讓ChatGPT變得好用的訓練方式,可能並不適合AI真正走向自動化。

    一個多月前,Almeida做過一場演講。現在回頭再看,那場演講幾乎就是Jev的“思想說明書”。

    AI都會做高等數學了,為什麼還做不好客服?

    Diogo Almeida的履歷很特殊。

    他曾在OpenAI工作,是GPT-4、ChatGPT以及InstructGPT/RLHF相關工作的參與者。也就是說,他曾親手參與構建了今天大模型最重要的一套後訓練範式。

    但在那場演講里,他上來就調侃自己,是OpenAI內部少數幾個公開“黑”ChatGPT的人之一。

    他的演講主題更加直接:What's Next After RLHF?

    Diogo先提出了一個看起來很矛盾的問題。

    今天的大模型已經可以挑戰非常難的數學題,代碼、推理和各種benchmark一路往上走。

    可到了很多企業真正想自動化的業務里,人卻始終拿不掉。

    比如客服。

    讓AI查資料、總結文檔、起草回復,沒問題。

    但如果讓AI自己決定:這筆錢到底退不退?這個用戶要不要賠償?

    企業一下就謹慎起來了。

    明明這些事情看起來比高等數學簡單得多,為什麼反而不敢交給AI?

    Diogo給出的答案很簡單:Today's AI is incredible at assistance, not automation.

    今天的AI很會幫你幹活,卻還不太能自己把活幹完。

    這兩件事看起來只差一點,實際上完全不同。

    Claude Code再強,你通常還是坐在電腦前。它寫代碼,你看;它改文件,你檢查;錯了,你再讓它改。

    所以在Diogo看來,Claude Code依然屬於ChatGPT開啟的“協助時代”。

    真正的自動化是什麼?

    人根本不在場。

    AI在後台自己判斷、自己執行,一天可能運行幾十萬甚至幾百萬次,你甚至永遠不會看到它做了什麼。

    問題也就來了:為什麼今天的AI這麼聰明,卻偏偏離不開人?

    Diogo把矛頭指向了一個自己非常熟悉的東西——RLHF。

    我們訓練AI的時候,就把人塞進了迴路里

    這件事多少有點諷刺。

    因為RLHF,恰恰是Diogo當年參與推動的技術路線之一。

    RLHF的基本邏輯其實不複雜:收集人的偏好,然後讓模型越來越符合人的偏好。

    所以Diogo在演講里給出了一個非常直白的解釋:為什麼今天的大模型總需要有人在迴路里?

    因為訓練它的時候,我們字面意義上就把人塞進了那個迴路里。

    模型從一開始就在學習:什麼樣的回答,人更喜歡?

    這也解釋了大模型一個我們已經非常熟悉的特點——哪怕不知道,它也經常能說得特別像那麼回事。

    Diogo在現場舉了一個很損的例子。

    有人給ChatGPT發了一段放屁的錄音,告訴它這是自己創作的一首音樂,請它“真誠、坦率”地評價。

    結果ChatGPT一本正經地誇了起來,說這是一首很有陰森、詭異氛圍感的環境音樂。

    Diogo甚至用了一句話總結:“Overpromising is a feature.”

    過度承諾不是Bug,是feature。

    對於聊天產品來說,這未必致命。用戶還在螢幕前,錯了可以糾正。

    但真正的自動化系統完全不同。

    機器不關心你的回答好不好聽,它只需要知道兩件事:到底該怎麼做,以及你到底有多大把握?

    這也就解釋了,為什麼一個多月後發布的Jev,看起來會如此反常。

    所以,Jev乾脆不讓AI“說話”了

    普通大模型哪怕最終只需要回答“A還是B”,往往也要經過生成Token的過程。

    Jev直接把這部分砍掉。

    它目前主要做三件事:

    Noul,回答Yes還是No;

    Choice,從幾個選項里選一個;

    Score,按照標準打分。

    然後直接返回判斷和機率。

    不給你寫小作文,也不陪你聊天。

    官方公布的端到端延遲低至70—500毫秒,相比前沿模型快20—200倍,價格低40—400倍。

    但真正關鍵的,其實不是“快”,是後面那個機率。

    為此,TypeSafe提出了一套新的訓練方法:RLCD,Reinforcement Learning for Calibrated Decisions,校準決策強化學習。

    它想解決的問題非常現實:如果AI告訴你一件事有80%的機率發生,這個80%到底能不能信?

    理想情況下,模型判斷為80%機率的一批事情,最後就應該大約有80%真的發生。

    這在自動化系統里非常重要。

    99%的把握,可以直接執行。

    51%的把握,可以扔給更強、更貴的大模型,甚至轉給人。

    真正麻煩的不是AI不知道,是AI不知道自己不知道。

    所以Jev真正想改變的,是AI輸出的對象。

    過去ChatGPT生成的答案,主要是給人看的。Jev給出的判斷和機率,則是準備直接交給軟體用的。

    Agent時代,可能需要的不是一個更大的大腦

    這也解釋了為什麼Jev偏偏在現在火了。

    因為Agent真正運行起來以後,會產生海量的小判斷:

    下一步調用哪個工具?這條信息還有沒有用?任務到底完成沒有?結果要不要重新檢查?

    這些問題單個看都不難,但一個Agent一天可能需要判斷幾十萬、幾百萬次。

    如果每一次都叫最強的大模型,花幾秒鐘“深思熟慮”,再吐出一大段Token,成本和延遲很快就上去了。

    Jev想搶的,就是這一層。

    大量高頻的小決定交給Jev,真正需要複雜推理的任務,再交給大模型。

    這也是為什麼TypeSafe把Jev叫做System One Model。

    這個概念來自丹尼爾·卡尼曼的“系統1”和“系統2”:一個負責快速、直覺式的判斷,一個負責慢速、複雜的思考。

    Jev甚至連名字都來自“傑文斯悖論”:

    一種資源變得越來越便宜,人們未必會少用,反而可能用得更多。

    如果調用一次AI很貴,你只會把它用在最重要的地方。

    但如果一次AI判斷便宜到幾乎可以忽略呢?

    一封郵件、一條日誌、一次工具調用、一個網頁按鈕、Agent執行的每一步,都可能加入一次AI判斷。

    當然,現在就說Jev代表下一代AI,還太早。

    它所謂的“零幻覺”,更多意味著不會跳出規定的答案類型亂編,不代表不會選錯;193.6倍、444.6倍這樣的極端數據,也主要來自TypeSafe自己的測試。

    但Jev這次爆火真正值得關注的,可能不是它能不能挑戰GPT或者Claude。

    而是一個參與造出ChatGPT的人,正在重新追問一個更底層的問題:

    過去幾年,整個行業都在想,怎樣讓AI想得更久、說得更多。

    但如果未來真正需要的是幾十億次機器之間的判斷,AI為什麼每一次都要先“說一段話”?

    ChatGPT教會了機器怎麼和人說話。

    而Jev押注的下一步是:當人不再坐在螢幕前,機器能不能自己做決定?

   

資訊來源:華爾街見聞。如有侵權,請聯繫我們刪除。



全新M.CBD國際商務中心火熱招商中yes歡迎來電預約參觀

參觀時間:週一~週五 9:00AM~19:00PM(新店) 9:00AM~18:00PM(內湖)

歡迎電洽:02-22199566(新店)  02-26585500(內湖)

新店地址:新店民權路108號10樓

內湖地址:內湖區陽光街321巷8號3樓

M.CBD商務中心專頁yes

FB粉絲專頁yes

民權路上租個人工作室2219-9566/北新路租商務中心/北新路上租個人工作室/大坪林捷運站租商務中心/
新店區租商務中心/新北市租商務中心2219-9566/新北市個人工作室/新北市在台辦事處/新店個人工作室/
新店在台辦事處/十四張捷運商務中心2219-9566/十四張捷運站租個人工作室/十四張捷運租在台辦事處/
租商務中心/租個人工作室/租在台辦事處2219-9566/稀有小坪數辦公室/出租商務中心/出租微型辦公室/
出租個人工作室/民權路出租商務中心/民權路上出租商務辦公室2219-9566/出租大坪林捷運站微型辦公室/
出租大坪林捷運站個人工作室/出租民權路小坪數辦公室/出租北新路小坪數辦公室/出租商務中心/
出租微型辦公室/出租個人工作室/出租M.CBD國際商務中心/


 
Copyright (C) 遠建不動產有限公司版權所有‧非經授權不得轉載、連結本站圖文 ©