AI 入門第八課
Prompt、RAG、微調，該用哪一個？
AI 結果不好，不代表要換更大模型。先找出是指令、資料，還是固定行為出了問題。
視覺速記
先診斷，不要先加技術
同樣是「AI 回得不好」，原因可能完全不同。拿新產品資料問它卻答錯，是資料問題；叫它寫客服回覆卻漏格式，是指令或行為問題。先看根源，才不會花大錢做錯方向。
三種方法，各解決什麼？
Prompt
解決任務、角色、限制與格式不清楚。最快、最便宜，永遠先試。
RAG
解決最新、私有或需要引用的資料不足。讓 AI 先讀可靠來源再回答。
Fine-Tuning
解決穩定語氣、固定格式或重複行為。需要大量一致的高品質範例。
一張選擇表
| 你看到的問題 | 先試什麼 | 為什麼 |
|---|---|---|
| 回答方向不對、格式漏掉 | Prompt | 通常是要求、對象、限制或成功標準沒有說清楚。 |
| 不知道新規則、內部文件或產品資料 | RAG | 缺的是可用知識，不是說話方式。 |
| 每次都要特定口吻或嚴格結構 | 先 Prompt，再評估 Fine-Tuning | 先證明 prompt 不夠穩，再投入資料整理與訓練成本。 |
| 任務需要多步驟與外部工具 | 第 9 課的 Agentic Workflow | 問題是流程設計，不是單一模型回答。 |
微調不是知識庫
新手最常誤用的地方
不要為了讓 AI 記住公司文件而急著微調。文件會更新、可能有權限問題，也難以追溯答案來源。需要最新或私有知識，優先做 RAG；微調只在你已經有大量一致範例，且要穩定複製語氣或格式時才值得考慮。
80 分鐘教學流程
0-15
min
min
挑一個真實失敗案例
拿一段 AI 答得不好的內容，保留原始問題、輸入資料與期待結果。
15-30
min
min
判斷根源
是指令不清、資料缺少、行為不穩，還是流程太複雜？
30-50
min
min
先做最小測試
先改 prompt；若缺資料，再提供可靠來源。每次只改一件事。
50-65
min
min
比較結果
用同一組問題比較前後版本，記錄準確度、格式與人工修改量。
65-80
min
min
決定下一步
只有需求穩定、範例量足夠時，才把微調列入下一階段。
跟著做：同一題跑三輪診斷
選一個你已經遇過的失敗案例。以下用「根據退款規則寫一封客服回覆」示範；重點是每輪只改一件事，才能知道改進來自哪裡。
1
先寫測試卡
在筆記中固定寫下：使用者問題、現有規則、期待輸出（120 字內、禮貌、有下一步）、不可說的話，以及一個你認定正確的答案。這張卡之後三輪都不能換。
2
第一輪：只改 Prompt
要求 AI 扮演客服、限制字數、列出回覆結構，並附上一個好範例。若它開始遵守格式，問題主要是指令，不要急著做 RAG。
3
第二輪：加入核准規則
把退款規則連同版本日期貼給 AI，要求它只根據規則回答並標示引用。若第一輪內容看似通順但規則答錯，問題主要是資料，這就是第 7 課的 RAG 情境。
4
第三輪：判斷要不要微調
拿同一套格式連測 5 個不同問題。只有在資料已足、Prompt 已清楚、仍然反覆失去特定語氣或 JSON 格式，且你手上已有大量人工審核的好範例時，才把微調列為下一階段。
| 每輪記錄 | 你要看什麼 |
|---|---|
| 格式 | 有沒有稱呼、字數、下一步與禁止內容。 |
| 正確性 | 是否符合你提供的規則；沒有規則時是否承認不知道。 |
| 人工修改量 | 你要改幾句才可用。改很多，先回到 Prompt 或資料。 |
| 下一步 | 填「改 Prompt／補資料／拆流程／收集範例」，只選一項。 |
實作案例：客服回覆為什麼不穩？
第一版判斷
如果只是忘記加稱呼、語氣不一致，先用 prompt 加上格式與好範例。
資料與流程變化
如果常問退換貨規則、訂單狀態，先用 RAG 與工具查詢；不是直接微調。
可複製模板
這是 AI 表現不好的案例：
- 任務：[任務]
- 原本的指令：[Prompt]
- 可用資料：[文件、表格、規則]
- 期待結果：[成功標準]
- 實際問題：[錯誤或不穩定現象]
請幫我判斷根源比較像：
1. 指令不清楚
2. 缺少最新或私有資料
3. 需要穩定複製特定語氣或格式
4. 任務其實需要多步驟流程
請先建議成本最低的測試方法，並說明為什麼暫時不需要用其他方法。
驗收與課後作業
再挑兩個日常任務，分別標記「先改 Prompt」「先補資料」或「先拆流程」。這比背名詞更重要。
Cheat Sheet
Prompt
讓 AI 聽懂要做什麼。
RAG
讓 AI 看得到可靠資料。
Fine-Tuning
讓 AI 穩定學會一種行為；不是資料倉庫。
FAQ
什麼時候才值得微調？
當任務已穩定、prompt 測過仍不夠一致，而且你有大量已審核的高品質輸入輸出範例時。
RAG 和微調可以一起用嗎？
可以，但先分別證明各自需要。RAG 處理知識，微調處理行為；不要為了看起來完整而同時上。
選了錯的方法怎麼辦？
先回到同一組測試問題，確認問題根源。方法選錯通常不是失敗，而是讓你更清楚缺的是什麼。