何哲：人工智能技术的社会风险与治理

　　 摘要：人类显然正在不可逆地踏入人工智能时代。在人工智能为人类提供更多的生产性和社会性服务的同时，人工智能同样也深刻改变了人类社会和形成了对人类社会的整体风险。本文认为，这种风险主要体现在十个方面，包括：隐私泄露，劳动竞争，主体多元，边界失控，能力溢出，惩罚无效，伦理模糊，暴力扩张，种群替代和文明异化。因此，从当前起，人类必须要高度重视人工智能产生的社会风险问题，并在全人类合作的基础上，形成有效的人工智能全球风险治理体系，以避免由于国别的恶性竞争导致人工智能的无序发展，从而对人类整体产生伤害。人类在核武器扩散控制方面的不成功经验，应足以引发在人工智能治理的高度借鉴和警惕。从整个社会而言，要做好至少五个方面的准备：一是尽快取得人工智能的风险共识；二是尽快增加人工智能的透明性研究；三是规范科研共同体的自我约束；四是推动各国尽快立法；五是加快建立全球协作治理机制。

　　 关键词：人工智能；社会风险；全球治理

　　 作者简介：何哲（男，1982-）陕西西安人，博士，现为中央党校（国家行政学院）公共管理教研部教授，研究方向包括国家治理，网络社会治理；行政体制改革等。

　　 当前人类显然正在不可逆的进入人工智能时代。在互联网、云计算、大数据、深度神经网络等一系列技术的催生下，自2010年起，人工智能以指数级的速度飞速成长，并终于在2016年以战胜前人类围棋世界冠军李世石为标志性事件。自2016年起，人工智能技术显然在产业和生活中的应用被极大加快，世界各主要大国亦开始高度重视人工智能的发展，纷纷制定了相应的发展规划和战略[[1]]。

　　 在人工智能越来越融合入人类生活时，必须要沉下心来去思考人工智能所带来的风险问题。一种观点认为，这种技术所带来的社会冲击并不是人工智能所独有的，从工业革命开始，围绕着机器与人的关系，一直都有所争论甚至冲突，但最后，机器并没有威胁到人类，人类反而在机器的帮助下变得更好的。因此，对人工智能的担心是没有必要的，技术本身就蕴含了技术的治理之道。显然，这种观点显然是过于低看了人工智能所具有的巨大潜力和模糊了人工智能与以前所有机器技术的本质区别。即，人工智能技术以前所有出现在人类社会中的机器，都只能替代人类的体力劳动和简单脑力劳动，在复杂推理等脑力劳动面前毫无作为。而人工智能不仅可以替代人类的体力劳动，更可以几乎完全替代人类的脑力劳动。在近年来进行的大量探索性研究都表明，在人类自以为傲的各种复杂场景中，特别是竞技游戏中，人工智能已经远远高于普通人类的水平，而与人类中的顶级高手不相上下。

　　 因此，人工智能是完全不同的机器，人工智能更像是作为载体的智慧体，从而具有与以往机器显然不同的特质。一个简单的类比是人类对核武器的控制。尽管人类使用武器的能力与人类文明几乎是一样悠久的，但是在核武器出现以前，人类并未在武器的影响下而灭绝，反而极大扩展了自己的文明发展。因此，是不是就可以推论核武器也不必担心？自然可以被解决？显然这是极不负责任的！核武器与之前所有的人类武器相比，它是第一个能够彻底的摧毁人类本身的武器。因此，从核武器诞生的那一天起，被核武器的巨大威力所震撼的核科学家乃至世界各国，就一直努力要禁止核武器的扩散[[2]]。因此，人类对人工智能的态度也应如此。

　　 本文将对人工智能时代所引发的社会风险进行探讨，我们逐次探讨三个问题，1）人工智能都引发了哪些社会风险；2）引发人工智能治理危机的关键原因是什么？3）人类当前应该如何面的和做好人工智能时代的治理准备？

　　 一、人类进入到人工智能社会是一个不可逆且加速的历史进程

　　 人工智能自上世纪五十年代诞生之日起，就一直有大量的研究者和艺术创作者关注人工智能所带来的威胁问题。从上世纪五十年代阿西莫夫创作的科幻小说《我，机器人》，到八十年代起的电影终结者系列，直到进入到21世纪，著名科学家霍金[[3]]和著名企业家马斯克都在不同场合表达了对人工智能所带来的潜在风险的深深忧虑。伴随着人工智能的不断发展，越来越多的人工智能本身的技术研究者和社会学科研究者也开始关注人工智能所带来的风险问题。尽管如此，这些关注和担忧，都丝毫没有影响到人工智能近年来的飞速发展和应用的普及。

　　 从技术角度，自上世纪六十年代起的摩尔定律在持续了近六十后至今依然生效，远远超过了定律提出者本人和大量科学家的预测，乃至于有科学家认为，其在未来的若干年内可能依然有效[4]。计算能力的大幅度增长为人工智能的模型复杂度和推理复杂度的进化插上了翅膀。一方面集成电路的尺寸在大幅度缩小，手指盖大小芯片的集成电路规模上升到100亿以上的晶体管元器件。另一方面，分布式计算方法的运用极大增加了通过芯片的水平扩展提高整体算力的潜力。以分布式计算为原理，通过并行计算乃至云计算的更广泛的架构，更是提供了动态性的几乎无限扩展算力的方法，奠定了人工智能发展的雄厚的运算基础。在算法方面，基于深度神经网络的机器学习算法已经成为各种人工智能体系的核心支撑，与其他人类知识形成的逻辑判断相结合，形成了应用场景下人机的共同工作机制，从而使得计算机大量吸纳人类知识，大幅度提高了进化速度。而在数字化方面，自从有网络以来的三十年，尤其是近十年间，人类全社会的数字化水平大幅度提高，数字化在便于人类储存检索的同时，也为人工智能的学习和进化提供了充分的知识口粮，人工智能以人类难以想象的速度通过对数字化世界的汲取和学习完成形成进化。因此，在这几个方面共同的作用下，人工智能的发展取得了突飞猛进的质的跃升（图1）。

　　 在这样的支持基础下，可以看到，全社会在各方面的数字化成就为人工智能的跃升已经铺平了道路。因此，人工智能的出现，是整个人类社会近几十年来数字化转型的必然结果。这一结果，无论其前景和风险如何，都无法被停止和扭转。

　　 从对人工智能发展的技术估计来看，自人工智能诞生至今，就存在两种观点，一种是乐观派，一种则相对保守。从乐观派的角度，例如1955年，著名的计算机科学家和管理学家赫伯特·西蒙就预测在10年内，计算机就会战胜人类国际象棋冠军[[5]]。显然我们知道这件事直到1997年才完成。而到1965年，西蒙又预测，在20年内，计算机就会替代人类。显然，今天看来，也预测的过于乐观。在八十年初，日本科学家同样做出了乐观的预测，认为在20年内，日本将造出和人类一样具有思维能力的计算机，也就是所谓的第五代计算机。然而，迄今为止，这一目标依然未实现。弗农·温格（Vernor Vinge）发表了《技术奇点的来临：如何在后人类时代生存》一文[[6]],认为三十年之内人类就会拥有打造超人类智能的技术，不久之后人类时代将迎来终结。这一预测，目前来看则相对更为稳妥。而另一方面，大多数计算机科学家则较为保守，普遍将计算机超越人类智慧的时间定为2050年左右或以后。例如，未来学家库兹韦尔（Ray Kurzweil）在《奇点临近》[[7]]一书中预言:2045年,奇点来临,人工智能完全超越人类智能。2017年5月，牛津大学的研究报告对300多位人工智能科学家的调查回复显示，在45年内，人工智能在各领域中有50%的机会超越人类，在120年内，能够实现所有人类工作的自动化[[8]]。这一预测依然是较为保守的。库兹韦尔则近来又预测认为在2029年人工智能将超过人类[[9]]。

　　 如果从技术发展的角度来看，对人工智能什么时候能超过人类的判断，很可能是标准非常模糊且具有很大变数的。如果以经典的图灵测试为标准，谷歌公司于2018年5月已经声称自己的语音程序通过了图灵测试。如果以应用为标准，近年来一系列在具体应用领域的优异表现来看，例如自动驾驶、围棋、游戏竞技、机器翻译等，使得有越来越多的人倾向于人工智能可能会以更快的速度突破人类智慧这一标准，认为，在2020年代之内，全球人工智能就可能达到人类的智慧水平。这也就意味着人工智能可能最多在十年内就会对人类形成全面的优势。

　　 表1 人类智慧与人工智能的核心区别

　　 如果进一步比较人类智慧与人工智能的区别，我们不得不承认，从计算速度到推理能力再到稳定性等所有领域，被赋予人类智慧特征与数字计算体系充分融合的人工智能几乎对人类都具有优势。

　　 首先，从运算能力而言，基于化学基础的人类运算的速度显然远远落后于人工智能。人类的长处是能够抓住核心特征并形成快速的态势感知和判断。而人工智能是建立在可以无限扩张的并行计算和云计算基础上的，并通过神经网络和人类赋予的逻辑判断的结合，同样正在形成高态势感知能力。

　　 其次，从推理方式而言，人类的大量推理主要是以模糊推理为主，也就是所谓的定性分析大于定量分析。而人工智能则是以精确的定量分析为基础，并被通过模仿人类赋予了定性的局势判断能力。

　　 第三，从存储能力而言，人类记忆显然是低存储能力且具有易失性的。为了克服人类的遗忘，人类需要反复的强化记忆和复习才能够保持。而建立在数字存储基础上的人工智能体系，则完全不会有遗忘和存储量的问题。

　　 第四，从交互能力而言，人类主体通过语言文字的交互能力其速度和准确性极低，最快的传输能力也不会超过每秒1KB字节（500个汉字）。而人工智能动辄以每秒GB的传输能力，远远超过了人类的交互。这意味着，人类群体的少数智慧者很难将其智慧分享给整个群体，而人工智能则任何一个节点的进化，都回瞬间传输到全网络。

　　 第五，从对客观世界的控制能力而言，人类显然需要各种复杂的工具的帮助下并经过学习和适应才能够完成对数字物体的操作。然而，现代高速物联网的建设，即将赋予大部分物体都具有了接受信息和改变状态的能力，而人工智能可以天然的对其进行直接控制。任何数字化的设备，都是人工智能的组成部分。

　　 最后，从稳定性角度，人类的智慧状态受到身体、情绪以及外界环境的影响极大，在不同的状态下，人类可以做出完全不同的判断。然而，显然人工智能完全不受外界环境的影响。在各种极端环境下，人工智能依然可以做出准确的逻辑判断。

　　 因此，从以上的各种比较而言，显然，即将突破人类智慧水平标准的人工智能在各个领域对人类似乎都具有了充分的优势。这使得人类社会第一次在整体上面临着关键核心优势—智慧的丧失危险。人类社会因此必须要高度重视这一历史性的改变。

　　 二、人工智能技术引发的人类社会风险

　　 由于人工智能是一种与传统完全不同的技术体系，因此，人工智能势必对人类社会产生深刻的从内而外的改变并引发相应的风险。大体而言，包括十个方面：劳动竞争、主体多元、边界模糊、能力溢出、惩罚无效、伦理冲突、暴力扩散、种群替代、文明异化。

　　 （一）隐私泄露

隐私是指一个社会自然人所具有的不危害他人与社会的个体秘密，从范围而言，则包括个人的人身、财产、名誉、经历等信息。

*免责声明：本站文章图文版权归原作者及原出处所有 ，文章内容为作者个人观点，并不代表本网站。如果您发现网站上有侵犯您的知识产权的作品，请与我们取得联系，我们会及时修改或删除。