[{"data":1,"prerenderedAt":105},["ShallowReactive",2],{"blog-\u002Fblog\u002Fzh-hans\u002Fwhere-does-ai-look":3,"blog-\u002Fblog\u002Fzh-hans\u002Fwhere-does-ai-look-surround":82,"blog-\u002Fblog\u002Fzh-hans\u002Fwhere-does-ai-look-translations":88},{"id":4,"title":5,"author":6,"body":9,"date":66,"description":67,"draft":68,"extension":69,"image":70,"meta":71,"navigation":73,"path":74,"seo":75,"stem":76,"tags":77,"__hash__":81},"blogZhHans\u002Fblog\u002Fzh-hans\u002Fwhere-does-ai-look.md","AI究竟看着我脸上的哪里在做判断",{"name":7,"picture":8},"Soo Ick Cho","\u002Fimages\u002Fblog\u002Fauthor-sooickcho.jpg",{"type":10,"value":11,"toc":58},"minimark",[12,16,21,24,27,30,33,36,39,42,45,48,51,55],[13,14,15],"p",{},"假设AI把你的额头皱纹评为62分。这个数字可以直接相信吗？如果是医生这么说，我们可以问：\"您是看哪里做出这个判断的？\"医生会指着你额头上的纹路来解释。但AI通常只给出一个数字，却不说明理由。这正是\"黑箱\"一词长期伴随医疗AI的原因。今天要谈的，是INSKINVIEW如何看清这个黑箱的内部。",[17,18,20],"h2",{"id":19},"确认ai真的在看那个地方","确认AI真的在看那个地方",[13,22,23],{},"AI看着错误的地方却给出看似合理的答案，这种情况比想象中更常见。如果一个本该评估额头皱纹的模型，实际上是在对刘海或灯光造成的阴影做出反应，那么即使数字看起来合理，这个判断也不可信。",[13,25,26],{},"因此，我们在开发过程中，会使用Grad-CAM等医疗AI领域长期使用的方法，确认模型是依据图像的哪个部位做出判断的。这种方法会把模型关注的区域像热力图一样叠加在脸上显示。如果是额头皱纹评分，光应该聚集在额头的纹路上;如果是色素沉着评分，则应该聚集在斑点和瑕疵上。这是用肉眼确认AI是否在看皮肤科医生会看的地方的过程。",[17,28,29],{"id":29},"确认分数是否随年龄合理变化",[13,31,32],{},"即使看的地方是对的，数字是否有意义地变化，又是另一个问题。所以我们也会一并确认分数如何随年龄变化。",[13,34,35],{},"在之前的文章中，我们展示过按年龄和性别划分的平均曲线。这条曲线既是建立基准的工具，同时也是检验模型的工具。如果皱纹分数不随年龄增长而变化，那么模型很可能测量的并不是皱纹，而是别的东西。反过来，如果分数的走势与皮肤科医生在临床上熟知的老化规律相吻合——比如皱纹在50岁之后加速，痘痘反而随年龄增长而改善——那就说明模型在追踪皮肤的真实变化。",[13,37,38],{},"如果说Grad-CAM是在一张照片里确认\"哪里\"，那么随年龄的变化，就是在大量人群的数据上确认模型在测量\"什么\"。",[17,40,41],{"id":41},"让分数变得肉眼可见",[13,43,44],{},"但还剩下一个问题：数字终究只是数字。皱纹从62分变成67分，脸上到底会发生什么变化？5分的差距，很难让人有直观的感受。",[13,46,47],{},"因此，我们正在开发皮肤状态变化模拟。它以你自己的照片为基础，展示当某个项目的分数提高几分时，你会是什么样子。原则很明确：只有要改变的项目可以变化，脸部轮廓和五官必须保持原样。如果在改变额头皱纹时，肤色也变亮了，或者下颌线也变了，那就不是模拟，而只是美颜滤镜。",[13,49,50],{},"这项工作也与前面的两种确认相互衔接。把只改变了额头皱纹的图像重新输入模型时，应该只有额头皱纹的分数发生变化，其他分数保持不变。这相当于从反方向确认模型是否真的在看那个项目。",[17,52,54],{"id":53},"值得信赖的数字是能够解释的数字","值得信赖的数字，是能够解释的数字",[13,56,57],{},"能够展示看的是哪里，能够随年龄做出合理的变化，能够让人想象出分数差异的样子——只有这样，分数才不再是从黑箱里冒出来的数字，而成为可以理解的信息。我们一直说要用数据而不是感觉来看皮肤，而我们相信，数据本身也必须能够展示它的依据。",{"title":59,"searchDepth":60,"depth":60,"links":61},"",2,[62,63,64,65],{"id":19,"depth":60,"text":20},{"id":29,"depth":60,"text":29},{"id":41,"depth":60,"text":41},{"id":53,"depth":60,"text":54},"2026-10-04","如果AI把我的皱纹评为62分，这个分数是根据什么得出的？这是关于INSKINVIEW如何确认AI判断依据，以及如何让分数变得肉眼可见的记录。",false,"md","\u002Fimages\u002Fblog\u002F인스킨뷰 AI 피부 분석 대시보드.png",{"slug":72},"where-does-ai-look",true,"\u002Fblog\u002Fzh-hans\u002Fwhere-does-ai-look",{"title":5,"description":67},"blog\u002Fzh-hans\u002Fwhere-does-ai-look",[78,79,80],"可解释AI","皮肤分析","INSKINVIEW","nsbLdUvl-9rfIqsrRx8oNbUsXMix3iazM-rKNE9kFi0",[83,84],null,{"title":85,"path":86,"stem":87,"children":-1},"INSKINVIEW决定不测量的:油分与水分","\u002Fblog\u002Fzh-hans\u002Fwhy-not-oil-and-moisture","blog\u002Fzh-hans\u002Fwhy-not-oil-and-moisture",[89,93,97,101],{"code":90,"name":91,"path":92},"ko","한국어","\u002Fblog\u002Fwhere-does-ai-look",{"code":94,"name":95,"path":96},"en","English","\u002Fblog\u002Fen\u002Fwhere-does-ai-look",{"code":98,"name":99,"path":100},"ja","日本語","\u002Fblog\u002Fja\u002Fwhere-does-ai-look",{"code":102,"name":103,"path":104},"zh-hant","繁體中文","\u002Fblog\u002Fzh-hant\u002Fwhere-does-ai-look",1791649182684]