[{"data":1,"prerenderedAt":105},["ShallowReactive",2],{"blog-\u002Fblog\u002Fja\u002Fwhere-does-ai-look":3,"blog-\u002Fblog\u002Fja\u002Fwhere-does-ai-look-surround":82,"blog-\u002Fblog\u002Fja\u002Fwhere-does-ai-look-translations":88},{"id":4,"title":5,"author":6,"body":9,"date":66,"description":67,"draft":68,"extension":69,"image":70,"meta":71,"navigation":73,"path":74,"seo":75,"stem":76,"tags":77,"__hash__":81},"blogJa\u002Fblog\u002Fja\u002Fwhere-does-ai-look.md","AIは私の顔のどこを見て判断しているのか",{"name":7,"picture":8},"Soo Ick Cho","\u002Fimages\u002Fblog\u002Fauthor-sooickcho.jpg",{"type":10,"value":11,"toc":58},"minimark",[12,16,21,24,27,30,33,36,39,42,45,48,51,55],[13,14,15],"p",{},"AIが、あなたのおでこのしわを62点と判断したとしましょう。その数字をそのまま信じてよいのでしょうか。医師が同じことを言ったなら、私たちはこう尋ねることができます。「どこを見てそう判断したのですか？」すると医師は、おでこのしわを指しながら説明してくれるでしょう。ところがAIは、たいてい数字だけを示し、理由を語りません。医療AIに「ブラックボックス」という言葉が長くつきまとってきたのは、そのためです。今回は、INSKINVIEWがそのブラックボックスをどのようにのぞき込んでいるのかについてお話しします。",[17,18,20],"h2",{"id":19},"aiが本当にそこを見ているのかを確認します","AIが本当にそこを見ているのかを確認します",[13,22,23],{},"AIが見当違いの場所を見ながら、もっともらしい答えを出すことは、思いのほかよくあります。おでこのしわを評価すべきなのに、実際には前髪や照明の影に反応しているとしたら、数字はもっともらしくても、その判断は信頼できません。",[13,25,26],{},"そこで私たちは開発の過程で、Grad-CAMのように医療AIで長く使われてきた方法を用いて、モデルが画像のどの部位を根拠に判断したのかを確認しています。モデルが注目した領域を、ヒートマップのように顔の上に重ねて表示する方法です。おでこのしわのスコアならおでこのしわの線の上に、色素のスコアならシミやくすみの上に、光が集まるはずです。皮膚科医が見る場所をAIも見ているのかを、目で確かめるプロセスです。",[17,28,29],{"id":29},"年齢に応じて正しく動くかを確認します",[13,31,32],{},"見ている場所が正しくても、数字が意味のある動きをしているかは、また別の問題です。そこで私たちは、スコアが年齢によってどう変化するかもあわせて確認しています。",[13,34,35],{},"以前の記事で、年齢別・性別の平均曲線をお見せしました。この曲線は基準をつくるための道具であると同時に、モデルを点検するための道具でもあります。しわのスコアが年齢を重ねても変わらないとしたら、モデルはしわではない何かを測っている可能性が高いでしょう。逆に、しわは50代以降に加速し、ニキビは年齢とともにむしろ良くなるといったように、皮膚科医が臨床で知っている老化の姿とスコアの流れが一致するなら、それはモデルが肌の実際の変化を追えているという根拠になります。",[13,37,38],{},"Grad-CAMが1枚の写真の中で「どこ」を確かめるものだとすれば、年齢による変化は、数多くの人のデータの上で「何」を測っているのかを確かめるものだと言えます。",[17,40,41],{"id":41},"スコアを目で見られるようにしています",[13,43,44],{},"それでも、ひとつ問題が残ります。数字はやはり数字だということです。しわが62点から67点になったら、実際に顔はどう変わるのでしょうか。5点という差は、直感的にはなかなかピンときません。",[13,46,47],{},"そこで私たちは現在、肌状態の変化シミュレーションを開発しています。ご自身の写真をもとに、特定の項目のスコアが数点良くなったらどのような見た目になるのかを示す技術です。原則ははっきりしています。変えたい項目だけが変わり、顔の輪郭や顔立ちはそのままでなければなりません。おでこのしわを変えたのに肌のトーンまで明るくなったり、フェイスラインが変わったりするなら、それはシミュレーションではなく、ただの補正フィルターです。",[13,49,50],{},"この取り組みは、前の2つの確認ともつながっています。おでこのしわだけを変えた画像をもう一度モデルに入れたとき、おでこのしわのスコアだけが動き、ほかのスコアは変わらないはずだからです。モデルが本当にその項目を見ているのかを、逆の方向から確かめているのです。",[17,52,54],{"id":53},"信頼できる数字とは説明できる数字です","信頼できる数字とは、説明できる数字です",[13,56,57],{},"どこを見ているのかを示すことができ、年齢に応じて納得できる動きをし、その差がどんな見た目なのかを思い描くことができたとき、スコアははじめて、ブラックボックスから出てきた数字ではなく、理解できる情報になります。勘ではなくデータで肌を見ようと私たちは伝えてきましたが、そのデータもまた、根拠を示せるものでなければならないと考えています。",{"title":59,"searchDepth":60,"depth":60,"links":61},"",2,[62,63,64,65],{"id":19,"depth":60,"text":20},{"id":29,"depth":60,"text":29},{"id":41,"depth":60,"text":41},{"id":53,"depth":60,"text":54},"2026-10-04","AIが私のしわを62点と判断したとしたら、そのスコアは何を根拠に出たものなのでしょうか。INSKINVIEWがAIの判断根拠を確認する方法と、スコアを目で理解できるようにする取り組みについての記録です。",false,"md","\u002Fimages\u002Fblog\u002F인스킨뷰 AI 피부 분석 대시보드.png",{"slug":72},"where-does-ai-look",true,"\u002Fblog\u002Fja\u002Fwhere-does-ai-look",{"title":5,"description":67},"blog\u002Fja\u002Fwhere-does-ai-look",[78,79,80],"説明可能なAI","肌分析","INSKINVIEW","-p7Kgni9yV73aufdeeFKWVBDxZsn8o3LjKRdsqJPraY",[83,84],null,{"title":85,"path":86,"stem":87,"children":-1},"INSKINVIEWが測らないと決めたもの:皮脂と水分","\u002Fblog\u002Fja\u002Fwhy-not-oil-and-moisture","blog\u002Fja\u002Fwhy-not-oil-and-moisture",[89,93,97,101],{"code":90,"name":91,"path":92},"ko","한국어","\u002Fblog\u002Fwhere-does-ai-look",{"code":94,"name":95,"path":96},"en","English","\u002Fblog\u002Fen\u002Fwhere-does-ai-look",{"code":98,"name":99,"path":100},"zh-hans","简体中文","\u002Fblog\u002Fzh-hans\u002Fwhere-does-ai-look",{"code":102,"name":103,"path":104},"zh-hant","繁體中文","\u002Fblog\u002Fzh-hant\u002Fwhere-does-ai-look",1791649184143]