技術筆記 #013｜Jev 跟 LLM-as-a-Verifier 有什麼差異？

強迫自己每天輸出且（儘量）不用 AI 寫文章 Day022

Jev 最近橫空出世，讓我馬上想到之前看過的 LLM-as-a-Verifier。

兩個概念第一眼真的有點像：比起只看模型最後選了什麼，它們都更在意背後的「機率分布」。

LLM-as-a-Verifier 還是使用一般 LLM。例如模型最後打 4 分，它會把 1～5 分的 Logprob 都拿出來，用完整的機率分布算出更細緻的 Reward。

但 Jev 更直接：它不是先生成答案再挖 Logprob，而是把「做決策」或「分類」本身當成模型的主要工作，直接輸出不同選項的 Probability Distribution。

簡單說：LLM-as-a-Verifier 是把生成式 LLM 拿來當評審；Jev 則是從一開始就朝「決策模型」這條路設計。

感覺用它來做一些文件分類，或 LLM 輸出結構格式驗證，應該會挺有趣的 🤩。

目前看到 Jev 的實測評價幾乎排山倒海地出現，而我還在排隊。等真的排到之後，一定要自己拿幾個場景測測看，到時候再來分享實測結果！