#推論效能

技術筆記 #012｜我的模型跑出一秒 888 個字，然後我發現碼表按錯了

模型看起來每秒輸出 888 個字，問題卻出在計時分母只算開口後的 0.8 秒，分子則包含先前 32 秒的思考內容。