城市便條技術筆記

技術筆記 #004|台詞都寫好了,AI 為什麼還會演錯?

強迫自己每天輸出且不用 AI 寫文章 Day009

JSON Prefill 就像電影已經喊了「Action!🎬」,演員不用再花時間理解怎麼演,直接照著給定的劇本往下接。

確實快了!原本一份文件約 50 秒,JSON Prefill 後速度提升約 8~10 倍。

但問題也跟著出現:演員急著接台詞,反而開始漏掉導演交代的細節。全文掃描、範圍裁切等規則遵循變差;開回 Reasoning,數字欄位反而更容易出現轉錄錯誤。

理論上,我可以繼續改 Prompt、拆步驟,想辦法讓它在不依賴 CoT 的情況下把規則做好。

但拍電影不是非得救這個演員。

當一個模型需要花大量力氣,才能同時做到「快、遵守規則、忠實轉錄」,換一個更適合這場戲的演員,可能才是成本更低的工程選擇。

所以最後,我放棄了 MUSE,轉往嘗試最近討論度頗高的 Qwen 3.8⋯