【文/ 观察者网专栏作者 雁默】

上一篇谈AI与中国伦理，就AI发展现况看来，似乎是有点遥远的事，毕竟目前仍无法确定通用型AI何时能实现，然而，最近有几则新闻令人警觉，伦理在AI里的应用，可能比我们想像得更急迫。例如英国《金融时报》中文网3月7日的一篇文章“人工智能的算法黑箱与数据正义”。

该文颇长，且充满许多AI专业用语与法律用语，所以对一般读者而言不太容易咀嚼，用最简单的话来描述该文的主旨，就是“AI的判断造成了歧视与不正义，所以其算法需要透明，以确保人权”。论述的出发点，则是针对欧盟可能于5月出台的法案《一般数据保护条例》(GDPR)，以及其对AI深层学习所可能造成的负面影响。

以下，我试着将重点做些比较清晰易懂的说明，阐述“为何伦理知识可能要在通用型AI阶段以前就需要用上”，且不是明天，就是现在。

该文作者将具备知觉与自我意识的通用型AI称为“强人工智能”，有限功能的AI则为“弱人工智能”。由于强人工智能尚未出现，所以该文所阐述的“AI之乱”，是针对目前许多已在社会各角落被使用的弱人工智能。

什么是“算法黑箱”？

用一个简单的例子来说明。买新车，许多人会保“车体险”，以期在爱车遭受碰撞时，能取得保险理赔。在台湾，相较于窃盗险或其他，车体险最为昂贵，因为车辆遭受或小或大的碰撞机率，远高于遭窃。车体险的保费并非固定金额，而是随着一些条件的差异而有不同。决定保费的要件如车辆的售价，车辆品牌的理赔率，车主的年龄，性别，肇事纪录等等，甚至车辆的颜色都属于评估范围，因为开红色汽车的年轻男性，发生碰撞的几率较高。

保险金融业，是以精算来生存的，所以引入能精细评估投保者的AI，理所当然。而若使用AI来评估，决定保费的要件，当然会比上述更为细腻。AI会广泛地搜罗保险公司的理赔历史数据，来分析哪一种人或哪一种车的理赔率较高，以作为保费金额的参考。

如果开红车的年轻男性要交比较高额的保费让你觉得有点歧视，试想，如果AI分析得出单亲家庭的成员肇事率较高，所以应该缴交更高的保费时，你服气吗？

问题是，AI如何得知你出身于单亲家庭呢？这么说吧，如果民间征信社可以查出你是否出身单亲家庭，AI当然也查到。我们的个人数据资料，如果没有受到严密的保护，根本无法逃遁于AI的搜查罗网。

这时你会问，谁能决定要将单亲家庭这项条件纳入保费评估的？当然是透过保险公司与AI科技公司的合作，而且保险人恐怕根本不会知道这项条件其实被纳入了考虑。

“单亲家庭”纳入评估，就是一种AI算法，而若只有保险评估单位与AI科技公司知道这种算法，被“算计”的人不知道，就是所谓“算法黑箱”。

如果以传统人工来评估保费，某些算法很可能会受到起码的道德制约，避免这种歧视性的评估。当然，我们也不能对“人性”打包票，即使完全人工设定评估项，这类问题也未必能完全避免，但没有“人性”的AI，很可能会肆意地选择，毕竟它只知如实呈现“客观”的数据分析结果。

与全人工设定相比，了解并参与AI整个分析过程的人更少，这些人完全可能也有更多的机会“放纵”AI。如果需要他们“监管”AI的工作，对其“人性”的要求更高。甚至当AI的“自动化”发展到一定程度，几乎无人能知道“黑箱”内部的情况。所以，保险公司若不将AI算法透明化让大众知晓，就会发生数据不正义的现象。

欧盟的《一般数据保护条例》，就是在限制AI可能造成的人权侵害，它要求所有科技公司对其AI算法的自动决策机制提出解释。而这种法令出台，也等于直接限制了AI的深度学习技术。

说白了，就是重新以“人性”去审视，限制“非人性”的决策模式。而这将使大量依赖深度学习的AI应用不合法。

大数据的阴暗面

《人工智能的算法黑箱与数据正义》一文，也指出了若干已经发生的数据不正义案件，例如美国每周超过1000人被机场AI使用的算法错误辨识为恐怖分子。美国法院用以评估犯罪风险的算法COMPAS，对黑人族群造成系统性歧视。华盛顿特区某个受到普遍认可的教师，被政府的自动化决定程序筛选为表现不佳，而与其他205人一起被解雇。