第 10 天：Fine-tuning — 客製化你的 AI

3 分鐘秒懂

fine-tuning(微調)是指拿一個已經訓練好的 model(模型)，再用你準備好的範例資料做額外訓練，讓它在某些任務上更符合你的需求。比如你希望 ChatGPT 每次都用公司週報格式回答、客服回覆都維持親切但不過度承諾、Discord 訊息總結要自動抓出「待辦、負責人、期限」，這些都可能用微調改善。

但微調不是萬靈丹。很多人一聽到「客製化 AI」就想微調，其實常見情況用 prompt(指令)或 RAG(檢索增強生成)就夠了。prompt 像是每次對同事交代任務；RAG 像是讓同事回答前先翻公司知識庫；fine-tuning 則是讓同事接受訓練，學會固定風格、判斷規則與輸出習慣。

一句話記住：如果問題是「AI 不知道最新或內部資料」，優先考慮 RAG；如果問題是「AI 知道資料，但總是用錯語氣、格式、分類標準或工作流程」，才比較像 fine-tuning 的舞台。

為什麼這重要

企業導入 AI 時，常遇到兩種挫折。第一，通用 AI 回答看起來漂亮，卻不像公司真正會說的話。第二，AI 有時照格式、有時不照，讓人還要花時間修。這就像請一個很會寫作文的人來做行政，但他每次交出的週報標題、段落、語氣都不一樣，最後主管還是得重排。

fine-tuning 的價值在於「穩定化」。它不只是讓 AI 變聰明，而是讓 AI 對特定任務更一致。例如一家台灣電商想讓客服回覆都符合品牌語氣：「親切、明確、不推責任、不亂承諾退款」。如果只靠一長串 prompt，每次都可能漏掉；若有大量優秀客服對話，可以用微調讓模型更自然地學到這種回覆方式。

但它也有成本：要整理資料、測試品質、付訓練費、維護版本。如果需求會常常變，比如商品價格、庫存、政策每天更新，用微調把這些知識塞進模型，反而很麻煩，因為資料一變就要重訓。這時 RAG 通常更適合。

核心概念分解

第一，微調不是重新訓練大腦，而是調整習慣。LLM(大型語言模型)本來已經讀過大量資料，具備語言理解與生成能力。fine-tuning 是在這個基礎上，用較小但高品質的資料，讓它學會特定輸入應該對應什麼輸出。像是新人已經會中文，你不是教他識字，而是教他公司簡報怎麼寫。

第二，資料格式通常是「問題—理想答案」。訓練資料常見形式是 input(輸入)與 output(輸出)配對。例如 input 是「請把這段會議記錄整理成週報」，output 就是你希望的標準週報格式。資料越一致，模型越容易學會；資料若互相矛盾，模型也會跟著混亂。

第三，fine-tuning 與 RAG 的差別在「學習習慣」和「查資料」。RAG(檢索增強生成)會先從文件、資料庫或知識庫找相關內容，再交給模型回答。它適合處理公司制度、產品手冊、法規條文、價格表等會更新的知識。fine-tuning 適合處理語氣、格式、分類邏輯、固定工作流程。簡單比喻：RAG 是開卷考，fine-tuning 是內訓考。

第四，微調流程大致有五步。先定義任務，例如「客服訊息分類」或「週報生成」。再收集高品質範例，最好是人類已審核過的好答案。接著整理成訓練格式，送進平台訓練。完成後用測試集評估，看它在沒看過的新案例上表現如何。最後上線監控，持續蒐集錯誤案例，必要時再做新版本。

第五，評估不能只看感覺。你可以設計 metric(評估指標)，例如格式正確率、分類準確率、人工修改時間、客服滿意度、錯誤承諾比例。若微調後只是「看起來比較順」，但人工修改時間沒下降、錯誤率沒改善，那可能不值得。

實際例子

假設你在一家中文 SaaS 公司，每週要整理客服、Discord 社群與業務回報，產出一份「產品問題週報」。一開始你用 ChatGPT 寫 prompt：「請整理重點，分成 Bug、功能需求、使用者抱怨。」效果還不錯，但每次格式不穩，有時多了行銷建議，有時漏掉嚴重程度。

如果只是資料來源很多、內容常更新，你可以先做 RAG：把客服紀錄、Discord 訊息、內部文件放進知識庫，讓 AI 回答前先搜尋相關片段。這能解決「AI 不知道發生什麼」的問題。

但如果 AI 已經拿到正確資料，仍然常把「登入失敗」歸到功能需求、把「付款錯誤」寫得太輕、週報格式常亂，這時可以考慮 fine-tuning。你準備 500 到 2000 份過去人工整理好的週報範例，讓模型學會公司分類規則與固定輸出格式。訓練後，它可能更穩定地產出：「問題類型、影響人數、嚴重程度、代表訊息、建議處理人」。

再看中國通義千問這類模型應用場景。如果某公司希望內部助理永遠用正式公文語氣回覆，並依照「背景、分析、建議、風險」四段式輸出，微調可能有效。但如果它要回答的是最新人事制度、報銷規定，那更適合接 RAG 到內部文件，否則制度一更新，模型舊記憶就過期了。

成本方面也要算清楚。微調成本不只訓練費，還包含資料清理、人員審稿、測試、部署與維護。小團隊常見做法是先用 prompt engineering(指令工程)把任務跑順，再用 RAG 補知識，最後真的遇到穩定性瓶頸，才投入 fine-tuning。

常見誤解

誤解一：微調可以把所有公司知識灌進 AI。不建議這樣做。知識會變，模型不容易即時更新。產品價格、政策、合約條款、庫存狀態，通常應該放在可更新的資料庫或知識庫，再用 RAG 取用。

誤解二：資料越多越好。品質比數量更重要。1000 筆一致、正確、經過審核的範例，可能比 5 萬筆雜亂資料更有效。微調像教新人，如果教材本身錯字多、標準不一，新人只會學得更亂。

誤解三：微調後就不用 prompt。仍然需要。微調讓模型更懂你的習慣，但你還是要清楚說明任務、輸入範圍與限制。就像訓練過的同事也需要知道今天要做哪份報告。

誤解四：微調一定比較省錢。不一定。如果任務量很小，寫好 prompt 可能最便宜；如果資料常變，RAG 維護成本較低；如果每天大量重複任務，且人工修正成本很高，微調才可能划算。

誤解五：效果好不好只看回答漂不漂亮。真正要看的是業務結果。客服是否少犯錯？週報是否少花時間修？分類是否更準？使用者是否更滿意？沒有評估指標，就很容易被「看起來像專業答案」騙過。