陈根：伦理与治理，人工智能时代下的困境与出路

陈根：伦理与治理，人工智能时代下的困境与出路

• 来源:网络
• 更新日期:2020-07-21

摘要：文/陈根目前，以智能化、网络化、数字化为核心特征的第四次工业革命正在来临。人工智能技术作为数字资源与智能技术的集大成者，成为第四次工业革命中的聚焦点。在大数据与成熟

文/陈根

目前，以智能化、网络化、数字化为核心特征的第四次工业革命正在来临。人工智能技术作为数字资源与智能技术的集大成者，成为第四次工业革命中的聚焦点。

在大数据与成熟的机器算法的基础之上，以人工智能技术为代表的新一代信息技术在市场应用的迭代中逐渐成熟并渗透到了政治、经济、社会等各个领域，在其加持下出现了智能制造、物联网、机器学习等一大批先导产业。

而2020年的过去半年，在全球抗疫的背景下，人工智能在医疗、城市治理、工业、非接触服务等领域快速响应。它从“云端”落地，在疫情之中出演关键角色，提高了抗疫的整体效率。人工智能与其他产业前所未有的紧密结合，再一次验证了人工智能作为新一轮科技革命和产业变革的重要驱动力量对社会的真正价值。

事实上，人工智能技术最大的特点就在于，它不仅仅是互联网领域的一次变革，也不属于某一特定行业的颠覆性技术，而是作为一项通用技术成为支撑整个产业结构和经济生态变迁的重要工具之一。它的能量可以投射在几乎所有行业领域中，促进产业形式转换，为全球经济增长和发展提供新的动能。

自古及今，从来没有哪项技术能够像人工智能一样引发人类无限的畅想，而在利好人类的同时，人工智能也成为了一个国际性的科学争议热题。人工智能技术的颠覆性让我们也不得不考虑其背后潜藏的巨大危险，早在2016年11月世界经济论坛编纂的《全球风险报告》列出的12项亟需妥善治理的新兴科技中，人工智能与机器人技术就名列榜首。

时下，智能技术在全球生产链中的赋能已经开始逐渐扩散到社会生活和世界政治领域中。人工智能的发展为全球化进程和国际社会带来了新的问题和挑战，对人工智能技术进行有效的治理已成为现实境况的迫切要求。

为机器立心，为智能立命

由于人工智能技术不是一项单一技术，其涵盖面及其广泛。而“智能”二字所代表的意义又几乎可以代替所有的人类活动，即使是仅仅停留在人工层面的智能技术，人工智能可以做的事情也大大超过人们的想象。

事实上，人工智已经覆盖了我们生活的方方面面。从垃圾邮件过滤器到叫车软件；日常打开的新闻是人工智能做出的算法推荐；网上购物，首页上显示的是人工智能推荐的用户最有可能感兴趣、最有可能购买的商品。人工智能对人类生活的影响从操作越来越简化的自动驾驶交通工具到日常生活中的面部识别上下班打卡制度等等。这些影响有的让人们深有所感，有的则悄无声息浸润在社会运转的琐碎日常中。当然，在辅助社会发展更加超前与方便的同时，人工智能也埋下了一些隐忧。

总体而言，人工智能的治理进程中的治理客体可以分为两个部分：一是对技术本身的治理；一是对衍生问题的规范治理。

对于人工智能技术本身来说，技术的发展使得机器智能的边界在不断扩展。智能机器人领域的研究已经持续了四五十年，不只是原始的工业机器人，服务机器人也有30多年的研究历史。这些研究大大增强了机器的运行能力，使机器可以替代人类自己进行活动，甚至某些能力已经超越了人类。目前，这些技术已经大量投入使用。

近五六年来，机器学习的算法快速发展。尽管距离机器完全理解“发生了什么”还有很长一段路要走，但随着更好、更便宜的硬件和传感器出现以及设备之间实现无线低延迟互联，还有源源不断的数据输入，机器的感知、理解和联网能力将会有更广阔的发展空间。

相比于基本元件运算速度缓慢、结构编码存在大量不可修改原始本能、后天自塑能力有限的人类智能来说，人工智能虽然尚处于蹒跚学步的发展初期，但未来的发展潜力却远远大于人类。几乎可以确定的是，机器智能未来必将超越人类智能。尽管无法确定其会在何时发生，也没有像奇点理论那样给出一个确切的时间点，但毫无疑问，这个趋势一定是存在的。

而基于此的人工智能技术治理，就需要人类先跳出科技本身，从人文的角度先为机器立心。其中，就包括相关领域的科学家在对人工智能技术的开发和应用时的价值取向以及道德观念培养。

此外，对于一项新生技术，其本身是没有攻击性的，造成危害的往往是对这种技术的使用，人工智能也是如此。在过去的数百年里，人类学会了使用机械能，学会了用电，学会了制造各种机械，学会了制造飞机、汽车。在过去的数十年里，人类也学会了计算机、互联网、云计算、人工智能和5G通信技术。

这些都是可以利用的工具，包括运用云端的智能扩展信息和知识搜索的广度、加深推理的深度、帮助我们做非常复杂的运算。而如何更好地掌握和利用这些技术，利用人工智能技术本身来帮助人类最大程度地发挥智能潜力，便是治理人工智能技术本身的破题关键所在。

当人工智能走入“伦理真空”地带

除了对于人工智能技术的危机治理，我们无法回避的是对人工智能衍生问题的规范治理。

首先，就业问题是人工智能治理领域中最接近民生保障，也是最需要解决的问题。由于资本的逐利性，在科学技术是第一生产力的时代，人工智能所表现出的巨大的生产力必然吸引资本蜂拥而至，而数字经济的发展将进一步促进企业的自动化和数字化转型。

于是，自动化将缩小社会的横向分工，人工智能将实现生产的半自动化、全自动化，从而消除了生产对人类个体差异性的依赖。随着人工智能研发的深入，更加完善的功能使得人工智能在社会分工体系中越来越占据主导地位。这就减弱了横向分工之间的差距，普通劳动者之间技术的差异性将会逐渐丧失。

当人工智能对劳动者的代替性越来越强时，普通劳动者的生存状态并不会得到很大的改善。相反，随着劳动力对技术依赖性的增加以及由此造成的劳动力本身在分工体系中竞争力的下降，劳动者的生存状态会进一步的恶化。

除了缩小社会的横向分工，人工智能技术的垄断将会阻隔社会的纵向分工。在信息时代，基于大数据以及计算机应用的自动化生产成为了拉动经济增长的主要驱动力。资本追逐利润的本质使得大量资金都流入了那些掌握前沿科技的企业和人才手里，这样就会造成一些常规性的工作被代替，最终将会造成的整个社会失业率的增加。

另一方面，一些本来就处于社会分工等级上层、掌握前沿科技的企业，由于资本的大量流入使得这些企业的地位更加稳固，甚至通过新的技术垄断切断了其他企业以及劳动者突破社会分工的机会，进而将不平等的社会分工等级秩序的牢笼扎得更紧。倘若社会分工顶层和底层间出现了不可逾越的断裂带，这将使得社会两极分化更加严重。

其次，由于人工智能需要依赖大量的数据，在人工智能的不断研究开发与应用中，也就存在许多数据管理的难题。当海量信息数据唾手可得，个体位置信息、关注内容、行程安排等极易被获取分析。个体敏感信息、私密内容就可能“无死角”暴露在大众视线。大数据信息动态监控，使个体用户操作“痕迹”被收集挖掘成为可能。有了人工智能助力，不仅能了解你是“谁”，更能预测你将成为“谁”。

尽管大数据等智能化手段在开展群体分类时能提供诸多便捷，但也使得许多传统意义上并非隐私的信息变成了个体敏感信息，这就增加了人们隐私受到侵害的可能性和伦理风险概率。这些数据算法的过度依赖或应用范围的盲目扩大，既在社会现实层面上为不法分子提供了随意窃娶滥用信息资源的机会，又在道德层面上引发了伦理道德风险。

最后，人工智能技术的发展对国际关系提出了挑战。从世界历史的发展过程中我们可以得出经验，每一轮新的世界大战和工业革命都会迅速地重构社会秩序和国际格局。以人工智能技术为代表的第四次技术革命是科技的集大成者，因此其所造成的影响更是颠覆性的。

在经济方面，2018年9月，麦肯锡全球研究所针对人工智能对世界经济的影响做的专题报告显示：到2030年，人工智能可能为全球额外贡献13万亿美元的GDP增长，平均每年推动GDP增长约1.2亿。这意味着，人工智能对国家经济的推动是巨大的。而在这一轮新的工业革命浪潮中，谁掌握了人工智能技术的主要力量，谁就有可能以垄断性的地位占据未来数年内全球经济的命脉。

在军事方面，区别于其他类型的科技，人工智能技术和核武器一样，属于军民两用型科技。世界各国已经认识到人工智能是未来国家之间竞争的关键赛场，纷纷开始在军事领域加大人工智能战略部署，尤其是在自主武器方面的研发力度，只为了能够占领新一轮科技革命的历史高点。当人工智能技术赋予国家更多政治和军事力量时，也加剧了国际社会的安全困境，这也给人工智能的治理带来了全球性的挑战。

事实上，我们已经走进了一个现代性“伦理真空”的特殊地带，这个真空正是由传统伦理学的缺失与现代自然科学的发展带来的。由于人工智能发展所带来的全世界范围内人类行为方式、思维方式的变化是加速、不可逆转的，而传统伦理学的发展却是缓慢的、滞后的，这就使现代社会出现了巨大的伦理真空地带。

因此，在大力发展人工智能的同时，必须高度重视可能出现的社会风险和伦理挑战。加强人工智能伦理学研究，揭示人工智能发展面临的伦理难题，有效治理人工智能，发挥人工智能的真正价值是未来值得关注的问题。