日前，一款由美國TypeSafe AI公司發布的首款“System one”模型Jev，震動AI圈。不同於以ChatGPT為代表的大語言模型，這款由前OpenAI研究員研發的模型不生成對話、文章或代碼，而是面向軟體自動化場景，直接返回可以被程序調用的結構化判斷及相應機率。

    “System One”的名稱來自心理學家丹尼爾·卡尼曼在《思考，快與慢》中提出的“系統一”概念，指快速、直覺式的判斷。以ChatGPT為代表的大語言模型被納入“系統二”，Jev則是專門做快速決策的“系統一”模型。

    Jev根據TypeSafe AI的定義，開發者可以向Jev輸入一段非結構化信息或程序狀態，並預先設定問題與候選答案。模型目前支持Choice、Score和Noul三種問題類型，分別用於從給定選項中作出選擇、按照設定標準評分，以及判斷某個陳述成立的機率。

    其中，Choice和Score會返回機率分布及置信度；Noul則直接返回一個介於0和1之間的數值。多個問題可以在一次調用中針對同一份狀態並行、獨立地處理。開發者不必再要求大模型逐個生成自然語言或JSON文本，然後對結果進行解析和校驗。

    例如，客服系統可以輸入一段用戶投訴，讓Jev判斷問題應該轉交帳單、技術支持還是銷售部門，同時評估問題的緊急程度；智能體系統也可以輸入當前任務與可用工具，由Jev判斷下一步應該調用哪個工具。

    TypeSafe AI宣稱，在適合這類快速判斷的“System One”任務中，Jev能夠達到與部分現有大模型相近的判斷水平，同時速度和效率提高兩個數量級。雖然 Jev不具備字符串生成功能，但它對結構化輸出進行了優化，並且不會產生幻覺。

    TypeSafe AI三位聯合創始人

    TypeSafe AI由前OpenAI研究員迪奧戈·阿爾梅達（Diogo Almeida）等人創辦，在OpenAI期間，他參與構建了聊天機器人，並發明了基於人類反饋的強化學習（RLHF），這項模型訓練技術或許是當今人工智慧時代最重要的奠基者。但儘管RLHF功能強大，他卻感到失望。

    阿爾梅達離開OpenAI後，於2024年參與創辦TypeSafe AI。他認為，人需要模型給出自然、完整的語言回答，而計算機更需要類型確定、可以直接執行的結果。

    “Jev”這一名稱來自19世紀經濟學家威廉·斯坦利·傑文斯提出的“傑文斯悖論”：資源使用效率提高、成本下降後，總需求可能不降反升。TypeSafe AI希望藉此表達，當機器智能的單位成本大幅下降後，軟體和機器人可能產生更多此前因成本和速度限制而無法實現的決策需求。

    從速度來看，現有的大語言模型，端到端的響應時間為3到329秒。對於人機互動來說速度足夠快，但集成到代碼中成為一大瓶頸。TypeSafe 的端到端響應時間為 70 毫秒至 500 毫秒，在特定“System One”決策任務中，Jev可達到同類大模型相近的判斷水平，同時速度提高40倍至200倍。

    價格對比來看，現有的大語言模型輸入token消耗0.20 美元至 10 美元/MTok，TypeSafe輸入代幣僅消耗0.042 美元/MTok（每十億代幣 42 美元），即每10億Token 42美元。由於模型不進行自回歸文本生成，公司不收取輸出Token費用。

    不過，上述性能數據主要來自TypeSafe AI自己的評測。該公司網站所稱最高193.6倍的速度提升和444.6倍的成本下降，來自其團隊設計的四項工作流測試，參考答案也並非人工標註的客觀標準，而是由其他大模型的結果生成。TypeSafe AI同時承認，這些數據處於實際收益的較高一端，內部設計測試也可能帶來偏差。

    阿爾梅達向媒體表示，“我們擁有了絕佳的技術，但它卻無用武之地。我花了很長時間才得出結論：問題在於我們一直在對人類語言進行優化……四年來，我們在人類語言方面做得非常出色，但這對於自動化來說毫無用處，因為計算機說的是另一種語言。”

    Jev發布後迅速受到軟體開發者關注。由於訪問需求集中湧入，TypeSafe AI的API一度無法繼續為用戶提供服務。

    Jev也開始引起具身智能和自主系統開發者的關注，有具身智能從業者告訴澎湃科技，具身行業終於有一款可以自主決策的低成本模型，未來值得嘗試。

    具身智能的“大腦”不僅需要理解環境和規劃任務，還要在候選動作、工具調用及安全約束之間持續作出選擇。傳統大模型需要先生成文字或推理過程，再由程序解析其中的動作指令；Jev則可以把整理後的環境狀態直接映射為類型明確、附帶機率和置信度的決策結果。

資訊來源：澎湃新聞。如有侵權，請聯繫我們刪除。