AI究竟看著我臉上的哪裡在做判斷

假設AI把你的額頭皺紋評為62分。這個數字可以直接相信嗎？如果是醫師這麼說，我們可以問：「您是看哪裡做出這個判斷的？」醫師會指著你額頭上的紋路來解釋。但AI通常只給出一個數字，卻不說明理由。這正是「黑箱」一詞長期伴隨醫療AI的原因。今天要談的，是INSKINVIEW如何看清這個黑箱的內部。

確認AI真的在看那個地方

AI看著錯誤的地方卻給出看似合理的答案，這種情況比想像中更常見。如果一個本該評估額頭皺紋的模型，實際上是在對瀏海或燈光造成的陰影做出反應，那麼即使數字看起來合理，這個判斷也不可信。

因此，我們在開發過程中，會使用Grad-CAM等醫療AI領域長期使用的方法，確認模型是依據影像的哪個部位做出判斷的。這種方法會把模型關注的區域像熱圖一樣疊加在臉上顯示。如果是額頭皺紋評分，光應該聚集在額頭的紋路上;如果是色素沉著評分，則應該聚集在斑點和瑕疵上。這是用肉眼確認AI是否在看皮膚科醫師會看的地方的過程。

確認分數是否隨年齡合理變化

即使看的地方是對的，數字是否有意義地變化，又是另一個問題。所以我們也會一併確認分數如何隨年齡變化。

在之前的文章中，我們展示過按年齡和性別劃分的平均曲線。這條曲線既是建立基準的工具，同時也是檢驗模型的工具。如果皺紋分數不隨年齡增長而變化，那麼模型很可能測量的並不是皺紋，而是別的東西。反過來，如果分數的走勢與皮膚科醫師在臨床上熟知的老化規律相吻合——比如皺紋在50歲之後加速，痘痘反而隨年齡增長而改善——那就說明模型在追蹤皮膚的真實變化。

如果說Grad-CAM是在一張照片裡確認「哪裡」，那麼隨年齡的變化，就是在大量人群的數據上確認模型在測量「什麼」。

讓分數變得肉眼可見

但還剩下一個問題：數字終究只是數字。皺紋從62分變成67分，臉上到底會發生什麼變化？5分的差距，很難讓人有直觀的感受。

因此，我們正在開發皮膚狀態變化模擬。它以你自己的照片為基礎，呈現當某個項目的分數提高幾分時，你會是什麼樣子。原則很明確：只有要改變的項目可以變化，臉部輪廓和五官必須保持原樣。如果在改變額頭皺紋時，膚色也變亮了，或者下顎線也變了，那就不是模擬，而只是美顏濾鏡。

這項工作也與前面的兩種確認相互銜接。把只改變了額頭皺紋的影像重新輸入模型時，應該只有額頭皺紋的分數發生變化，其他分數保持不變。這相當於從反方向確認模型是否真的在看那個項目。

值得信賴的數字，是能夠解釋的數字

能夠呈現看的是哪裡，能夠隨年齡做出合理的變化，能夠讓人想像出分數差異的樣子——只有這樣，分數才不再是從黑箱裡冒出來的數字，而成為可以理解的資訊。我們一直說要用數據而不是感覺來看皮膚，而我們相信，數據本身也必須能夠呈現它的依據。