城市便條技術筆記
技術筆記 #004|台詞都寫好了,AI 為什麼還會演錯?
強迫自己每天輸出且不用 AI 寫文章 Day009
JSON Prefill 就像電影已經喊了「Action!🎬」,演員不用再花時間理解怎麼演,直接照著給定的劇本往下接。
確實快了!原本一份文件約 50 秒,JSON Prefill 後速度提升約 8~10 倍。
但問題也跟著出現:演員急著接台詞,反而開始漏掉導演交代的細節。全文掃描、範圍裁切等規則遵循變差;開回 Reasoning,數字欄位反而更容易出現轉錄錯誤。
理論上,我可以繼續改 Prompt、拆步驟,想辦法讓它在不依賴 CoT 的情況下把規則做好。
但拍電影不是非得救這個演員。
當一個模型需要花大量力氣,才能同時做到「快、遵守規則、忠實轉錄」,換一個更適合這場戲的演員,可能才是成本更低的工程選擇。
所以最後,我放棄了 MUSE,轉往嘗試最近討論度頗高的 Qwen 3.8⋯