AI究竟看着我脸上的哪里在做判断

假设AI把你的额头皱纹评为62分。这个数字可以直接相信吗？如果是医生这么说，我们可以问："您是看哪里做出这个判断的？"医生会指着你额头上的纹路来解释。但AI通常只给出一个数字，却不说明理由。这正是"黑箱"一词长期伴随医疗AI的原因。今天要谈的，是INSKINVIEW如何看清这个黑箱的内部。

确认AI真的在看那个地方

AI看着错误的地方却给出看似合理的答案，这种情况比想象中更常见。如果一个本该评估额头皱纹的模型，实际上是在对刘海或灯光造成的阴影做出反应，那么即使数字看起来合理，这个判断也不可信。

因此，我们在开发过程中，会使用Grad-CAM等医疗AI领域长期使用的方法，确认模型是依据图像的哪个部位做出判断的。这种方法会把模型关注的区域像热力图一样叠加在脸上显示。如果是额头皱纹评分，光应该聚集在额头的纹路上;如果是色素沉着评分，则应该聚集在斑点和瑕疵上。这是用肉眼确认AI是否在看皮肤科医生会看的地方的过程。

确认分数是否随年龄合理变化

即使看的地方是对的，数字是否有意义地变化，又是另一个问题。所以我们也会一并确认分数如何随年龄变化。

在之前的文章中，我们展示过按年龄和性别划分的平均曲线。这条曲线既是建立基准的工具，同时也是检验模型的工具。如果皱纹分数不随年龄增长而变化，那么模型很可能测量的并不是皱纹，而是别的东西。反过来，如果分数的走势与皮肤科医生在临床上熟知的老化规律相吻合——比如皱纹在50岁之后加速，痘痘反而随年龄增长而改善——那就说明模型在追踪皮肤的真实变化。

如果说Grad-CAM是在一张照片里确认"哪里"，那么随年龄的变化，就是在大量人群的数据上确认模型在测量"什么"。

让分数变得肉眼可见

但还剩下一个问题：数字终究只是数字。皱纹从62分变成67分，脸上到底会发生什么变化？5分的差距，很难让人有直观的感受。

因此，我们正在开发皮肤状态变化模拟。它以你自己的照片为基础，展示当某个项目的分数提高几分时，你会是什么样子。原则很明确：只有要改变的项目可以变化，脸部轮廓和五官必须保持原样。如果在改变额头皱纹时，肤色也变亮了，或者下颌线也变了，那就不是模拟，而只是美颜滤镜。

这项工作也与前面的两种确认相互衔接。把只改变了额头皱纹的图像重新输入模型时，应该只有额头皱纹的分数发生变化，其他分数保持不变。这相当于从反方向确认模型是否真的在看那个项目。

值得信赖的数字，是能够解释的数字

能够展示看的是哪里，能够随年龄做出合理的变化，能够让人想象出分数差异的样子——只有这样，分数才不再是从黑箱里冒出来的数字，而成为可以理解的信息。我们一直说要用数据而不是感觉来看皮肤，而我们相信，数据本身也必须能够展示它的依据。