城市便條技術筆記

技術筆記 #012|我的模型跑出一秒 888 個字,然後我發現碼表按錯了

強迫自己每天輸出且(儘量)不用 AI 寫文章 Day021

我的模型跑出「一秒講 888 個字」。正常人講話大概一秒 4 到 5 個字。

程式沒壞,這個數字也真的是照公式算出來的。錯的是我搞錯了它「到底講了多久」。

這個模型有個習慣:它會先在心裡想過一遍,想完才開口。那次它想了 32 秒,開口只講了 0.8 秒。

而我的碼表只從「開口」那一刻算起,字數卻把「想的加講的」全部算進去。等於一個人想了半小時、講了一分鐘,我拿那一分鐘去除掉他全部的字,語速當然變成超人。

同一批 39 份文件,另外三個不會「先想過」的模型,一個 68、一個 30、一個 16,都是正常速度。只有會想的那個飛到 888。

所以如果儀表板出現快到不合理的數字,先看看這個模型是不是會思考,而不是以為它比較強。

我一開始還把欄位名字看錯,差點得出完全相反的結論,以為是「讀圖片太慢」。實際上讀圖片只花 0.79 秒,差了 43 倍。那時候要是信了,我大概已經跑去加顯卡了。