Fine-tuning是什麼意思？AI微調完整解釋

微調只是在龐大模型上的一個小幅調整

語言模型交到你手上時已經訓練完成。預訓練讀過一個包含數兆個token的語料庫;Meta表示Llama 3用了超過15兆個。後訓練接著把它調教成一個助理。什麼是LLM涵蓋了這兩個階段。

微調是第三個階段,規模小得多,而且由你自己來執行。你給模型幾百到幾千個你想要的確切輸入輸出範例,再用這些範例多訓練一點。OpenAI的微調指南指出,通常從50到100個範例就能看出明顯的改善。參數會稍微往你想要的答案方向偏移。

規模上的差距就是整個重點。15兆個token對上幾百個範例:微調沒辦法加入有意義的知識,因為數量根本不足以撼動模型已經知道的東西。它能做到的,是改變模型回答的方式,因為一個重複幾百次的固定格式,正是這種小幅調整最擅長捕捉的模式。

微調改變的是模型怎麼回答,不是它知道什麼

該畫的界線是「行為」對「知識」。

大家最常踩到的坑是第四列。他們用自家的說明中心去做微調,以為會得到一個懂自家產品的模型,結果得到的是一個能流暢地用說明中心的口吻,並且流暢地捏造產品事實的模型,因為訓練教會的是答案的形狀,而不是內容的實質。知識的工作屬於檢索,什麼是RAG解釋了它的運作方式。

為什麼刻意選在便宜的模型上做微調

沒有人會為了一個範圍很窄的任務,去微調一個系列裡最貴的模型。重點是讓一個小而便宜的模型,能像用長提示詞的頂尖模型一樣把一件事做好,然後把這個便宜的模型跑上幾百萬次。

上方兩端的數字是Artificial Analysis Intelligence Index的分數,讀取於2026-09-17,連線代表每百萬token的價格差距。通用型的Llama 4 Maverick拿到9分,對上Claude Sonnet 5的38分;微調的賭注在於,在單一狹窄任務上,這29分的差距能靠127倍的成本節省來補上。以2026-08-20擷取的OpenRouter牌價計算,一個輸入1,000個token、輸出500個token的標準答案,Maverick要價$0.0006,Sonnet 5要價$0.007,參見AI模型成本指數,所以一個每月跑十萬次的客服分類任務,前者花$60,後者花$700。如果微調過的Maverick在這項單一任務上追上Sonnet,這次微調在第一個月就能回本。真正決定微調用途的是這套算術,而不是模型整體品質的高低。

讓這一切變便宜的方法是LoRA,發表於2021年,它只訓練一小組額外加入的參數,而不是整個模型。搭配4位元的後繼者QLoRA(Dettmers等人,2023年),一個70億參數的模型能在單張24GB的消費級顯示卡上完成微調。對同一個模型做完整微調,則意味著要在好幾張資料中心等級的GPU上更新每一個參數。

在動手訓練之前,提示詞、檢索或換一個模型就能解決大多數情況

微調是最後的選項,不是第一個,因為以下每一種方法都能用一小部分的力氣解決常見情況,而且能在一分鐘內修改。

1. 搭配範例的更好提示詞。 在提示詞裡放三個你想要的輸出範例,就能拿到微調在格式和語氣上帶來的大部分好處,卻不用經過任何訓練。給新手的提示工程介紹了這種做法。
2. 檢索。 如果差距在於知識,再多的微調也補不上。上傳文件,或是打開搜尋功能。
3. 換一個模型。 不同模型的預設語氣本來就不一樣。一個原本就用你想要的方式寫作的模型,勝過去微調一個不是這樣寫的模型;有多模型工作區的話,一鍵就能測試。

當提示詞已經長成一整頁模型老是記不住的規則、任務量大到提示詞的長度真的是成本,或是你需要一種格式能可靠地重複一萬次而不出一次差錯時,才考慮微調。這些都是真實的需求,但也很罕見。

可以在聊天產品裡直接微調嗎?

一般來說不行,Whizi也不例外。消費端的聊天產品,包括Whizi在內,都不提供微調功能;那是開發者在供應商API和開放權重模型上才有的功能。聊天應用程式裡最接近的東西是常駐指示。在Whizi裡,這些指示放在專案上:每個專案的自訂指示會套用到該專案裡的每一段對話,這就是不用訓練任何東西,也能在一整批工作中維持一致語氣和格式的方法。如何使用專案說明了設定方式。

對大多數人來說這才是划算的選擇。專案指示是你寫一次、規則變了再編輯的提示詞;微調則是規則變了就要重新訓練的模型。對於沒有在大規模執行單一窄任務的人來說,提示詞在成本、修改速度,以及可讀性上都更勝一籌。

判斷原則是:當同一個窄任務的執行量大到讓一個便宜模型的划算與否真的重要時,才做微調。其他所有情況,把指示寫下來就好。