收到一份客戶名單、活動報名表或每週銷售報表時,真正麻煩的是資料本身讓人不敢相信:日期有西元、民國和文字描述,金額有「10萬」「100,000」「1m」,同一個客戶出現兩次,電話欄還混著全形空白和私人資料。
這種檔案不要直接丟給 AI 說「幫我清乾淨」。它可能真的產出一份看起來整齊的 CSV,卻順手把空白當成 0、把「不適用」補成平均值,或刪掉它讀不懂的列。比較安全的做法,是用一份備份檔跑 30 分鐘驗證:先確認資料能不能上傳,再把每個欄位的清洗規則寫清楚,要求 AI 產出可重跑的步驟,最後用列數、總額和抽樣回原始檔核對。
先判斷這份資料能不能交給 AI
先把資料分成三種處理路線。低風險資料,例如公開活動統計、匿名問卷、範例 CSV,可以用來測 ChatGPT Advanced Data Analysis、Claude、試算表 AI 或 OpenRefine。一般公司內部資料,例如銷售明細、客服紀錄、庫存表,可以處理,但要用公司允許的帳號、資料保存規則和權限。高風險資料,例如客戶姓名、電話、身分證號、薪資、病歷、合約、未公開財務與資安紀錄,不要用個人帳號試手氣。
如果工作真的需要 AI 先看欄位,做一份樣本檔:刪掉姓名、電話、Email、身分證號、地址細節和合約編號,只留下欄位名稱、格式問題與少量假資料。這樣 AI 仍能幫你設計清洗規則,真正的敏感資料留在本機、公司核准工具或既有資料庫流程裡。
30 分鐘跑一次可核對的清洗
第一輪不要追求全自動。目標是確認 AI 能不能把規則說清楚、把錯誤列留下來、讓人回頭檢查。
| 步驟 | 要做的事 | 通過標準 |
|---|---|---|
| 1. 備份與盤點 | 複製原始檔,列出欄位、筆數、空值、重複列和可疑格式。 | AI 回報的列數、欄位數與 Excel/CSV 一致。 |
| 2. 寫欄位規則 | 指定日期、金額、電話、會員等級、地址等欄位該怎麼改,哪些欄位不能動。 | 每個規則都有例子,不用猜。 |
| 3. 產出清洗結果 | 讓 AI 先產生清洗摘要、問題列清單和下載檔;固定任務再請它產生 Python 腳本。 | 有修改筆數、錯誤列、未處理原因。 |
| 4. 人工核對 | 回到原始檔重算列數、總額、空值數,抽查 10 到 20 筆。 | 沒有誤刪列、總額不變、敏感欄位沒有外洩。 |
這張表要先讓錯誤露出來,不要急著把流程排得很漂亮。AI 很會補齊格式,但不一定知道「空白」代表未填、「0」代表真的沒有,還是系統匯出失敗。這些語意要由你或資料提供者決定。
可以直接貼給 AI 的清洗提示詞
先上傳低風險備份檔,或只用遮蔽後的樣本檔測規則。第一段提示詞不要要求商業洞察,只要資料品質報告:
我會上傳一份 Excel/CSV 備份檔。請先不要做商業分析,也不要刪除任何列。
請先做五件事:一、列出欄位名稱、資料型態、總列數、空值數、重複列數;二、找出格式不一致的欄位,例如日期、金額、電話、地址、會員等級;三、對每個問題欄位提出清洗規則,並用 3 筆例子說明清洗前後;四、標出你不確定該怎麼處理的列,不要自行猜測或刪除;五、等我確認規則後,再產生清洗後的檔案。
輸出請分成「資料盤點」「建議規則」「需要人工確認」三段。
確認規則後,再追加第二段:
請依照我確認的規則清洗資料。
請保留原始列數,不要覆蓋原始檔。完成後請輸出:一、清洗後的 CSV;二、每個欄位修改了幾筆;三、被標記為需要人工確認的列;四、清洗後和清洗前的總列數、空值數、重複列數比較;五、如果你寫了 Python,請附上完整腳本與套件需求。
如果這是每週固定報表,第三段才請 AI 把規則變成腳本:
這份報表每週都會收到,欄位名稱相同。請把剛剛確認的清洗規則寫成 Python 腳本。
需求:讀取 input.xlsx 或 input.csv,輸出 cleaned_output.csv;不刪除原始檔;每一步都印出修改筆數與錯誤訊息;遇到無法判斷的列,輸出到 review_needed.csv;支援 utf-8-sig、cp950、big5 三種常見編碼嘗試;最後比對輸入與輸出的列數。
常見錯誤要先留出口
台灣常見的資料問題,多半來自檔案習慣。政府、學校或老系統匯出的 CSV 可能不是 UTF-8;遇到 UnicodeDecodeError,可以請 AI 嘗試 utf-8-sig、cp950 或 big5,但成功讀取後仍要檢查中文字有沒有變成亂碼。pandas 官方文件把 CSV、文字檔和缺失值處理拆成獨立主題,也提醒不同資料型態會有不同的 missing value 表示法;這正是你不能只讓 AI 猜的原因。
第二個錯誤是補值太積極。會員等級空白,不一定代表「一般會員」;退貨原因空白,不一定代表「沒有退貨」;電話空白,也不代表客戶不存在。清洗規則要把「可自動修正」「只能標記」「必須問資料提供者」分開。
第三個錯誤是把清洗和分析混在一起。清洗階段只處理格式、缺漏、重複、欄位一致性和敏感資料遮蔽。清洗通過後,再到 AI 資料分析流程問趨勢、異常和下一步決策;如果問題只是 Excel 公式、樞紐分析或欄位拆分,可以先看 AI Excel 實戰指南。
工具怎麼選:一次清、每週跑、或大量網頁抽取
偶爾清一份小檔,ChatGPT Advanced Data Analysis、Claude 或試算表 AI 很快。OpenAI 文件把 Advanced Data Analysis/Code Interpreter 描述為可在沙盒中寫和執行 Python、處理不同格式檔案、產生資料與圖表檔;這適合低風險、一次性、需要人快速核對的任務。
每週固定報表,不要每次重新聊天。請 AI 把規則寫成 Python 腳本,放在本機或公司允許的環境,讓它每次輸出清洗摘要、錯誤列和核對數字。若同事不會跑 Python,也可以用 OpenRefine;OpenRefine 文件說明它的基本功能可在本機小型 web server 上運作,適合人工檢查分群、拆欄、批次替換和匯出。
大量爬蟲 HTML、新聞頁或產品頁抽取,則不要把它當成 Excel 清洗問題。Feyn Labs 的 Pulpie 文章把重點放在從 HTML 區分正文與 boilerplate,並以自家 benchmark 宣稱較低成本;這類說法可以當成工程團隊評估抽取模型的線索,但不能直接替代你的資料驗證。對一般分析師來說,先把 CSV/Excel 的欄位和規則跑通,web-scale 抽取另開工程任務處理。
清洗後一定要交出三份東西
完成清洗後,不要只拿一份 cleaned.csv。第一份是給自己的核對表:原始檔名、日期、欄位數、列數、修改規則、未處理列和抽樣結果。第二份是給同事的使用說明:哪些欄位已整理、哪些欄位不能拿來分析、下次檔案格式如果變了要先停下來。第三份是可重跑的腳本或提示詞版本,讓下週不是從頭問一次 AI。
如果 AI 清洗結果要進正式報告,至少回到原始檔核對三個數字:總列數是否一致、關鍵金額或人數是否一致、最容易出錯的欄位抽樣是否合理。這三個檢查比「輸出看起來乾淨」重要;它們能讓你知道 AI 是幫忙整理資料,還是只是把錯誤排版得更像正式檔案。
常見問題
完全不會 Python,也能用 AI 清洗資料嗎?
可以,但要把核對留在自己手上。先用 AI 產生資料品質報告、清洗規則和修改摘要;如果只是一次性小檔,下載清洗後 CSV 再用 Excel 抽查即可。若要每週重複跑,請同事或工程夥伴幫忙把 AI 產生的腳本放進安全的執行環境。
公司的客戶資料可以上傳到 ChatGPT 嗎?
不要只看工具能不能讀檔。先確認公司允許的帳號方案、資料保存方式、是否會用互動內容改善模型、誰能存取檔案,以及是否需要遮蔽或刪除個資。客戶資料、薪資、醫療、合約和未公開財務資料,優先用公司核准環境或本機流程。
AI 清洗後,最少要檢查哪些數字?
至少檢查總列數、關鍵金額或人數、空值數、重複列數,並抽查 10 到 20 筆。若清洗規則會合併客戶、拆分地址、補會員等級或遮蔽個資,再另外檢查合併前後的 ID、地址欄和敏感欄位。
OpenRefine、pandas、ChatGPT 要怎麼分工?
ChatGPT 或 Claude 適合第一輪規則設計、一次性小檔和產生腳本草稿。OpenRefine 適合本機人工檢查、批次替換、分群和整理欄位。pandas 適合固定報表、可重跑腳本和較大的 CSV/Excel。若清洗後要做圖表與決策,再接到 AI 資料分析工具比較。