AI治理论坛丨图灵奖得主John Hopcroft：人工智能的

我很荣幸能有机会在此就AI的社会责任问题发表一点拙见。

迄今为止，我们所采用的计算机决策规则一直是与人类决策规则一致的。未来，计算机将根据从训练数据中得来的经验进行决策，而非一套既定规则。这是AI的本质，AI将对我们未来产生重大影响。

本次演讲中，我会先解释一下什么是AI，然后谈论一些AI会引发的社会问题。

什么是AI？AI涉及到对某一计算机程序进行训练，使其能基于一组训练数据取得良好的表现，然后再将该程序应用到另一组新数据上。使程序能够适应新数据组的过程被称为“泛化”。在计算机科学领域，已有大量研究表明程序在何时实现泛化的概率较高。中国的高校应向学生充分灌输AI的这一主要理念，确保他们能够深入理念。另一方面，计算机科学家将成为社会变革的推动者，所以他们应该在相关课题上接受良好的教育。

AI会带来一系列社会问题。AI将从根本上改变世界，在生产商品和提供服务方面，仅需小部分人工参与就能满足我们的全部所需，体力劳动将大幅减少甚至消失，商品将被自动递送至我们的住所。AI还将改变我们生活的诸多方面，而且随着AI的普及，大量社会问题也将随之浮现。

接下来，我将谈谈其中的几个问题，比如“决策的依据”问题。如果企业运用算法做出聘用决策，人们可能对自己落聘的原因满头雾水。同样，如果我在大学课程中用算法计算考试成绩，学生可能无从得知自己究竟为何失利。如果算法仅仅是一个黑盒，你只要输入数据，在这一头将试卷放进去就能算出成绩，那么这一成绩的计算依据是无从得知的。所以，我们需要找出一种方法，理解AI做出某项决策的原因。

再有，AI程序的训练数据可能带有偏见，而这些偏见会在AI网络中反映出来。如果当前大多高层职位都由男性担任的话，那么AI程序在执行高层职位人员选聘流程时往往会选择男性。同样，由于亚洲文化与美国文化存在差异，因此，根据中国背景训练的系统可能无法针对美国的问题给出合适的解决方案，反之亦然。

还有关于“财富分配”的问题。AI将改变工作环境。许多技术含量较低的工作将实现自动化，自此退出历史的舞台。这一过程将为国家创造大量的财富，但相应也会引发一些问题：如何分配这些财富？是分配给开发AI程序的人，还是分配给因此失去工作的人？财富的合理分配将是保障国家稳定和未来发展的必要条件，这是一个十分重要的问题，需要我们深入理解，妥善解决。

接下来是“国家稳定性”的问题。随着部分工作的淘汰，人们不禁开始担心自己的未来出路，如果不了解未来的发展趋势和方向，人们便会紧张不安，这可能给国家稳定带来严重影响，我们应对人们开展相关教育，使其了解未来生活的本质。

再往后的主题为“社交”。如果大量人口失业，我们如何帮他们重新找到生活的意义？我们如何转移他们的生活兴趣，开始关注旅行、探索世界、文化、社交活动或从事自己喜欢的工作？另外，如果人们大多数时候都在与计算机而非人类打交道，他们会如何行事？

再接下来是关于“错误”的问题。如果算法出错，应该由谁买单？无人驾驶汽车领域显然无法逃避这一问题，但除此之外还有其他诸多领域也同样如此。当无人驾驶汽车发生伤人事故，责任应该由谁承担？是坐在后座的乘客吗？是汽车的制造商吗？还是驾驶汽车的AI程序？AI程序的应用将带来许多法律问题，我们必须随之调整法律体系。

我们还可能面临一些“意外后果”。假使我们问AI系统要如何消灭新冠病毒疫情，而系统给出的答案是杀光人类，如此应该怎么办？这显然不是我们想要的解决方案，而对于有人在违章横穿马路时被撞身亡的情况，如果我们请人来解决这个问题，他们会在人行道上加装围栏，阻止行人乱穿马路。但如果我们向AI系统寻求解决方案，它可能会建议我们直接拆除公路。

文章来源：《科学学研究》 网址: http://www.kxxyj.cn/zonghexinwen/2020/0916/360.html