谷歌让普通人读懂AI

一、算法黑箱：从奥巴马"变"成白人说起

打码容易去码难，这条互联网定理似乎将成为历史。

2020 年，美国杜克大学的研究者提出一种新型算法，名为 PULSE。PULSE 属于超分辨率算法，通俗意义上讲，它是一款"去码神器"，经过运算与处理，能够将低分辨率、模糊的照片转换成清晰且细节逼真的图像。按照原论文描述，PULSE 能够在几秒钟的时间内，将 16×16 像素的低分辨率小图放大 64 倍。

但问题就在于此，这款"去码神器"所生成的人脸图像看似逼真，但实际上只是一种虚拟的新面孔，并不真实存在。也就是说，PULSE 生成的高清人像，是算法"脑补"出来的作品。

但是，永远不要低估网友的好奇心与行动力。有人试用了 PULSE 之后，发现美国前总统奥巴马的照片经过去码处理，生成的是一张白人的面孔。 而后又有许多人进行了相似的测试，结果无一例外——输入低清的少数族裔人脸图像，PULSE 所生成的都是具备极强白人特征的人脸照片。在种族平等成为焦点的舆论环境中，这件事很快引起轩然大波。

按照一般经验，出现这种情况，肯定是训练算法所选用的数据库出现了问题。正如 PULSE 的创建者在 GitHub 上所解释的："这种偏见很可能是从 StyleGAN 训练时使用的数据集继承而来的。"人工智能领域的标杆性人物 Yann LeCun 也被卷入到相关的讨论之中，他同样认为机器学习系统的偏差源于数据集的偏差。

LeCun 本来是为了解释算法偏见生成的原理，但他没能想到，最后这句打趣的话，被指有极强的种族歧视色彩，于是他被卷入一场长达数周的骂战之中。最后以公开道歉收场。

倘若事情到此为止，也就没有什么特殊性可言，但事情不是那么简单。在对 LeCun 的批评声音中，一部分学者指责其片面地理解 AI 的公平性。譬如 AI 艺术家 Mario Klingemann 就认为，问题的出现应该归因于 PULSE 在选择像素的逻辑上出现了偏差，而不全是训练数据的问题。

但能够确定的是，这已经不是算法第一次出现偏见。

• 2016 年，美国司法犯罪预测系统 COMPAS 被指会高估黑人的再犯罪概率，并且大大低估白人的再犯罪概率
• 2015 年，谷歌图像识别系统将黑人识别为"大猩猩"，尽管引起轩然大波，但直至 2018 年，谷歌都仍未完全修复这一漏洞，只是将灵长类的标签从系统中移除

算法偏见是算法诸多社会问题中最有代表性的一个，但一直都没有有效的解决方法。 类似事件阻碍着人机互信，也因此成为人工智能发展的绊脚石。

而此类问题之所以根深蒂固，则源于算法的不可解释性。长期以来，人与 AI 的相处模式就是人类提供数据集，设定程式，而 AI 负责生成内容、输出结果。换句话说，算法的内在运算机制就像一个黑箱一样，如何运作并不能为人所知，而我们只能接受它的结论。

2018 年，AI Now Institute 发布的一份报告（AI NOW Report 2018）甚至建议称，负责司法、医疗保健、社会福利以及教育的公共机构应避免使用算法技术。算法的不可解释性逐渐演变成阻碍算法被社会层面所认可的关键性因素。

二、打开黑箱：谷歌的 X AI 计划与模型卡

算法黑箱效应所具备的种种风险，在不同程度上指向了算法的可解释性问题。从 2016 年起，世界各国政府及各类非官方社会组织就开始极力吁求加强 AI 的可解释性。

正是在社会舆论与官方政策的双重压力下，以谷歌为代表的科技公司开始致力于提高算法的可解释性，"可解释性的 AI"计划（Explainable AI） 也就在此背景中被推出。这项简称为"X AI"的计划，其本身的目的便是推进 AI 模型决策的透明性。

Google Model Cards 是一种情景假设分析工具，它的功能是为算法运作过程提供一份解释文档，使用者可以通过查看该文档，来了解算法模型的运作原理及性能局限。

正如我们在食用食物之前会阅读营养物质成分表，在路上行驶时会参考各种标志牌来了解道路状况，Model Cards 所扮演的角色，便是算法的"成分表"与"标志牌"。

在某种程度上，人之所以无法与算法"交流"，是因为后者的复杂原理，更进一步说，这是由于人与算法或更广义的 AI 采用不同的"语言"。 人类使用高阶语言进行思考和交流，比如我们在形容一个事物时往往会用颜色、大小、形状等维度的形容词。而算法关注低阶要素，在它的"视阈"里，一切元素都被扁平化为数据点，方便其考察不同特征属性（Feature Attribution）的权重。

以图像识别为例，对于算法来说，一幅图像中的每个像素都是输入要素，它会关注图片中每一个像素的显著程度并赋予相关数值，以此作为识别的依据。对于人来说，就显然就不可能用"第五个坐标点的数值是 6"这样的方式来进行判定。

这种不可通约性阻碍着人与 AI 的对话。 而可解释性 AI 的初衷就是使人类，尤其是那些缺少技术背景的人更容易理解机器学习模型。

模型卡（Model Cards）就是以人类能够看懂的方式来呈现算法的运作原理，它实现了两个维度的"可视化"：显示算法的基本性能机制；显示算法的关键限制要素。

如果说算法是一盒药物，那么模型卡就是说明书，包含适应症状、药物成分、不良反应等内容。

以人脸识别算法为例，模型卡会告知：

• 模型描述（Model Description）：算法的基本输入与输出
• 性能：识别算法在各种变量下的表现，例如面部大小、面部朝向、感知肤色、性别、年龄等
• 局限性：可能影响模型性能的因素（脸型大小、面部方向、灯光、遮挡、模糊、运动等）

三、一种让普通人理解 AI 的可行性探索路径

模型卡详细说明了预先训练的机器学习模型的性能特征，并提供了有关其性能和限制的实用信息。

对于行业分析师和媒体记者来说，他们可以根据模型卡了解算法，从而更容易向普通受众解释复杂技术的原理和影响。

而随着与模型卡类似的技术思路得到更广泛开发和应用之后，可以进一步使普通人从算法的透明性中获益。

比如，当人们向银行申请贷款时，银行所使用的大数据算法会对其进行信用评分。当一个人申请贷款却遭到系统的拒绝，往往只会收到简单的提示，比如"由于缺乏足够的收入证明，而拒绝了你的申请"。但具备算法常识的人都会知道，运算过程不会是一维的。而参照模型卡，普通人就可以根据算法侧重的要素来强化某些维度上自己的表现。

模型卡甚至可以帮助发现并减少算法偏见、算法歧视等问题。

无论是模型卡，还是 TCAV，它们都代表着一种将算法的可解释权利交由社会大众的努力路径，进而达到规制算法权力、缓和算法决策风险的目的。

正如前文所述，对于算法的恐惧，不仅仅是一个技术层面的问题，更是社会意识层面的问题——人们天生对陌生事物具有恐惧情绪。 在这种情况下，以推进人与 AI 对话的方式打开算法黑箱，无疑可以打消种种疑虑，增加人们对算法的信任，从而为人工智能更大范围普及开辟前路。

所以，以模型卡为代表的"可解释性 AI"更像是一种对话方式。 它不仅仅促成技术与技术人员之间的对话，而且也促成了专业人士与普通人的对话。

四、可解释性 AI，也没那么容易

到今天为止，"可解释性 AI"已经提出了一段时间，但实际上并没有掀起太大的波澜。或许在理想的"实验室"环境下它大有可为，但放诸现实语境中，算法可解释性的推进还有一些阻碍。

首先，算法太过复杂以至于无法解释。 大多数具备良好性能的 AI 模型都具有大约 1 亿个参数，而这些参数往往都会参与到决策过程之中。在如此众多的因素面前，模型卡如何可以解释哪些因素会影响最终的结果？如果强行打开"算法黑箱"，可能带来的结果就是牺牲性能。

其次，对于这项工作的必要性与最终的可行性，也要打一个问号。 因为人类的思维与决策机制也是复杂而难以理解的。倘若以人类为黄金标准，还如何期望 AI 能够自我解释？

Yann LeCun 就认为，对于人类社会而言，有些事物是需要解释的，比如法律。但大多数情况下，其他事物的可解释性并没有想象中那么重要。

再者，通过政策条例和伦理准则提升算法透明度，依然存在一些局限性。 简单公布一个模型的所有参数，并不能提供其工作机制的清晰解释。反而在某些情况下，透露太多算法工作原理的相关信息可能会让不怀好意的人攻击这个系统。

解释的可能性与必要性、信任与保密等多重张力之下，围绕可解释性问题的争议仍无定论，但一种共识正在逐渐达成，就是试图一网打尽的可解释性方法显然不具备可行性。 没有一种模式能够适合所有问题，伴随算法技术的不断发展，可解释性工作的路径与方向也应该不断进行适应。

本文成稿于 2020 年 11 月，节选自《科技向善白皮书 2021》。