設想你要教一個圖像分類模型分辨雨傘和帽子。第一批雨傘照片都拍在雨天,第一批帽子照片都拍在室內。看它對這批訓練用的照片做判斷時,模型似乎認得很好。換一張照片,把同一把傘擺到室內,它還能認出來嗎?
這時值得追問的是,模型究竟學到了傘的形狀,還是順手利用了背景?《AI 魔法實驗室》從機器接收到的圖像信息講起,再把同樣的追問帶到生成內容、智能體行動和人工覆核。
機器怎樣看見一把傘
把傘尖附近的照片放大,你會看到一塊塊顏色。照片裏的藍色傘面,在常見的 RGB 表示裏可以存成一格格數值,每格記錄紅、綠、藍三個通道的信息。第 1 課先講像素和顏色,再介紹電腦視覺怎樣從圖像裏尋找形狀和紋理。第 2 課把這些數值組織成張量,並討論送進模型前為什麼要整理數據。第 1 課《機器的數字之眼》 · 第 2 課《數據的基本單元(張量)》
可以用方格紙做個小練習。先畫出一把傘,再換一種背景色重畫。哪些格子變了?哪些輪廓還保留着?人一眼就能把兩張畫認成同一類,機器能不能做到,要看它怎樣從樣本裏學習。
換一張從未見過的照片
第 3 課從帶標籤的樣本講起,也講到了過擬合和泛化。過擬合的模型會過分依賴訓練樣本裏的細節,換一批圖片就容易失手。判斷模型能不能處理新情況,需要留出它訓練時沒見過的樣本來檢查。第 3 課《分類大師》
回到那把傘,可以先準備室內和室外兩種背景下的帽子與雨傘照片,再留出另一組做測試。若發現模型總把室內的傘認成帽子,下一輪就可以檢查背景是否在訓練樣本裏和類別綁得太緊。一次認錯提供了下一步要查的線索。
從辨認圖片到生成圖片、採取行動
識別一張傘的照片和生成一張新的傘圖,是兩個不同的任務。第 6 課用擴散模型講解生成過程,從噪聲出發,逐步去噪,形成符合條件的圖像。第 7 課則把問題帶到行動上。智能體收集環境信息、選擇動作並執行,行動之後再觀察環境怎樣變化。比如按規則走紙上迷宮,每走一步就要重新判斷當前位置。第 6 課《生成藝術與擴散模型》 · 第 7 課《智能體的核心循環》
在相信結果之前,找一個辦法檢查
最後一課討論數據偏見、模型幻覺和人工監督。一個適合帶去課堂的問題是,如果結果錯了,我可以用什麼來發現? 對圖像分類,可以找一張背景完全不同的照片。對生成的回答,可以回到原資料找證據。對會採取行動的系統,還可以想想哪一步該由人確認。第 10 課《倫理、偏見與人機共生》
課程面向初中階段學習者,也適合想帶孩子理解 AI 基本原理的家長和教師。可以從簡體中文課件的第一課和隨頁小題開始,先把一張熟悉的照片拆成像素,再回頭想想,下一張該拿什麼照片來測試。進入 AI004《AI 魔法實驗室》