如果机器可以自我思考，人工智能是否会走向失控？

如果机器可以自我思考，人工智能是否会走向失控？

• 来源:网络
• 更新日期:2020-09-02

摘要：DataCastle数据城堡联合四川出版集团、成都市龙泉驿区科学技术协会带来《大咖说科普》，本期嘉宾为DataCastle数据城堡首席数据官张千明，重点宣传科学普及知识，传播创新思维理念

DataCastle数据城堡联合四川出版集团、成都市龙泉驿区科学技术协会带来《大咖说科普》，本期嘉宾为DataCastle数据城堡首席数据官张千明，重点宣传科学普及知识，传播创新思维理念，增加孩子们的知识储备，做新一代强国少年。

▲班豆独家原创视频

策划 | 张鹏、陈学韶、廖、毛敏

本期嘉宾 | 张千明（DataCastle数据城堡CDO）

编辑 | 麻豆

排版 | 何森林

后期 | 马钰川、何森林

指导 | 豆奶

尚学龙泉，科创未来。大家好，我是来自电子科技大学大数据研究中心的张千明，很高兴能够在班豆平台给龙泉驿区和全省的孩子们带来人工智能知识的科普。

在前面几个视频中，我们一起观赏了在影片中人类对于未来人工智能的设想，以及在现实生活中什么是人工智能、什么是伪人工智能这么一些影像资料。相信大家都会产生一个疑问，人工智能未来究竟会发展成什么样子？会不会超越人类？会不会对人类产生危害？

那这些问题经过一系列的讨论，可能会沉淀到更深一层的问题就是“机器会思考吗”。因为只有会思考的机器才会挣脱人类的管束，去发展出有害于人类的这么一种智能。

所以，今天我们谈论的一个问题就是，机器会思考吗？这个问题一直以来是人工智能领域最难回答的一个问题，它从上个世纪五十年代就已经被提了出来，至今七十年过去了，这个问题仍然没有得到非常准确的回答。所以呢，我也不可能通过这一期的视频就把这个问题给大家讲清楚，只是希望通过这一期的视频能够传达我的一些观点，并且希望引发大家的思考，通过一些人工智能案例的学习，让大家对人工智能的本质有更加清晰的理解。

01

不同群体的讨论

在上个世纪五十年代，人工智能之父图灵发表了一篇论文，里面提出了一个问题就是，机器能思考吗？在1951年和1952年，BBC连续报道了阿兰图灵对此问题的讨论，当然是和先贤的一些大人物们去讨论机器能不能思考。

在之后的七十年里，不管是在科学界，还是在民间，都有关于“机器能思考吗”这一问题的讨论。在专业领域的讨论里边，都会涉及到非常专业的问题，就比如说哲学方面的问题，或者数学方面的问题。从哲学层面上来看，基本就可以包含“可以用机器代替人来思考吗”或者说“意识从哪里来”，那么更深一层的就是说“知识从何而来”，“知识是如何指导我们行动的”。

那么，对于这些问题的讨论，又会延发到数学上面，产生一些新的学科。就比如说“我们如何用机器代替人的思考”，就产生了逻辑学；“一切事物都是可计算的吗”，就产生了可计算论；以及我们现在人工智能有很多算法的基础，这个基础就是我们所说的概率论。

另一类呢，就是我们普通人是怎么探讨的。我还记得我在进入人工智能领域之前，跟一位人工智能的师兄在讨论这方面的问题，他当时就说了一些我完全不认可的话题，那个时候我的讨论就十分粗浅。

02

这些需要思考吗

机器有没有意识？没有意识它就不能思考？那机器都是计算机程序，是由人类设定的，又怎么会脱离人的思想束缚呢。那么后来有一段时间呢，就变成了这样一些问题。它会下棋，还会作诗，还会跟人类对话、辩论，就又觉得机器是不是又可以思考了。到底能不能思考呢，我们先来看下面几个例子。

比如说1234x5678，这个问题，需要思考吗？会有人说，这个不需要思考，只需要去计算就可以了。

那我们来看下一个题目。这是一道高考题，如果需要把这道题做出来，那是否需要思考呢？

那我们再提一个问题，能不能基于“天府成都”这四个字去作一首诗；以及我给出一幅画面就能写出一篇作文；再给出一个棋盘，如果让你手执白子，下一步该下哪里，能不能作出一个快速的解答呢？

带着这些问题，我们来看人机大战。从一些具体的应用来去看人工智能是怎样去完成这项任务的。

03

人机大战

人机大战高考

第一个就是我想要提出的高考这个例子，在2017年，有两个人工智能的产品去完成了北京卷和全国卷的文科试卷。其中有一个机器人，它用了十分钟的时间完成了试卷，获得了134分的成绩。134分的成绩出来之后引起了社会各界的广泛讨论，也有人去深挖这134分的成绩是真是假。

所以就有人挖掘出了这个机器人的解题成绩，它的解题过程是不是合理的。有人发现，它在解题过程中存在一些瑕疵，仍然获得高分，就怀疑是不是作假。那我们先不管它是不是作假，我们单看它在其他类型的题中所取得的成绩，就比如说选择题、填空题，还有一些没有争议的解答题，那是不是能说明它能够去做题呢？

不管怎么样，我们还可以去看另外一个例子，另外一个产品呢，它是在大家监督的情况下去完成了答题和最后做一个批改。这是人工智能在高考领域它能取得的一些成绩，这时候我想问，机器能思考吗？

人机大战医疗

人工智能在医疗方面的应用。医疗一直以来都是一个非常就敏感的话题，也是人工智能很难涉足的一个领域。谁都不愿意把自己的生命交到一个冷冰冰的机器手里，这是一个很难逾越的障碍，因为觉得机器犯起错来，可能命都没有了。

我曾经去跟身边的一些医生朋友聊过天，他们对于人工智能的接受度要超过我们的想象，为什么呢？因为他们清楚，人工智能的功效能够达到一个什么样的程度。

人机大战创作

第三个人机大战的例子，我想说一下创作，当然这里的创作呢一个是看图写作，一个是给定主题写诗。从微软的第一个人工智能产品开始，它就可以通过对一幅画里面的人物、景象作一些解析，然后去编出一个故事。

在这里，我给出了一个例子，大家可以看到这是一张非常开心的人的图像，微软的这个产品基于这幅画写了一个惊悚的故事，里面涉及到了一些十分恐怖的事情。从这个角度来讲，它是不是开始有了一些创作的思想在里面，因为它编出的故事好像与这幅图像相距甚远。如果让我去给这张图片编一个惊悚的故事，至少我是不知道该怎样去编写的。

另外一个例子是川小妹，这是微信上的一个小程序。在这个小程序上，你输入任何的比较常见的词语，它都会基于这个词语给你作一首藏头诗。就比如说“天府成都”，你让我去作一首诗，一天、两天我都不一定能作出一两句来，但它只要几秒钟就给你生成一首看起来有点意思的诗。

人机大战对抗

那么最后一个例子呢，我想给大家展示的是对抗，对抗的第一个案例就是围棋。大家肯定都记得AlphaGo和李世石大战的那一天，以及和柯洁大战的那一天。

第二个我想说明的例子是辩论，辩论不管是从语言的表达还是逻辑的比拼，它都是人类历史上最能展示人类语言能力的竞技常那对人工智能来说呢，它能做到什么样的程度？这个Project Debater就是一个非常厉害的人工智能辩手，它在跟人类的辩论过程中，它能够做到论点清晰、论据充实、逻辑严密，不亚于专业的辩手。

04

依赖于机器的“大脑”

我们生活中大家所讨论的人工智能的大脑，这个大脑是什么呢？简单来说，这个大脑就是一系列的机器学习的算法模型，包括决策树、支持向量机、人工神经网络……有非常多的算法在。

神经网络是一种模拟人脑的神经网络以期能够实现类人工智能的机器学习技术。

深度学习是用于建立、模拟人脑进行分析学习的神经网络，并模仿人脑的机制来解释数据的一种机器学习技术。

或许有同学说，这还是太抽象了，那我们还可以再做一下简化，尝试把这个问题转化成我们生活中常见的一个问题。

这里呢，我提了三个问题。我们先看第一个问题，找规律、填数字。0，1，0，1，0，1，0，1，0，1，（），（）。几乎所有人可以脱口而出，就是0和1。

第二个就是抛硬币，我得到的结果是：正，反，反，正，正，正，反，正，反，反，正，正，反，正，反，反，（）。直到最后，有人说，它有一半的可能性是正，一半的可能性是反。

那么我们再看第三个呢，就说是：正，正，正，正，正，正，正，正，正，正，正，正，正，正，正，正，（）。那最后填什么呢？这个时候，还是有同学说这个不确定，有一半的可能性是正，一半的可能性是反。如果有同学说一定是正，那么你对于人工智能预测的这个思想有了一个初步的了解。

那我们就可以把这个问题分成两类，第一类是问题一和问题三，他们都有非常强的规律；第二类就是完全随机的情况，完全不知道未来的情况是什么。

05

机器会思考吗

人工智能或者算法模型的一个核心的目的就要要去找到这种规律，然后去对未知的事物进行预测，这种预测不是百分之百准确，而是存在一定的随机性。那么我们可以简单总结一下，我们现在的人工智能的这种思想基本上是在现有的信息基础之上，依照一定的方法或规律对未知的事物进行预测。

机器会思考吗？不知道现在大家是否有了自己的答案，那我自己来讲的话，从原来没有接触人工智能，到现在接触人工智能，并且作了一定的研究，我的思路是越来越清晰了。我现在也认识到，这个问题，需不需要回答呢？

我们可以看看当初提出这个问题的图灵是怎么回答的。图灵作了一句回答，大概就是“机器能思考吗，我相信这个问题不值得思考，不值得去讨论”。

我希望大家不必为此问题去纠结，更重要的是去看一看我们人工智能的发展是什么样的，通过去思考人工智能是怎样去解决这些问题的，从而提升对人工智能的认识。如果能做到这些，我们本节视频的目的也就达到了。

那么在下一节的视频里边呢，我想给大家带来开篇所提到的这些问题，人工智能会超越人类吗？人工智能会伤害人类吗？面对人工智能的发展，我们要怎样做呢？

以上就是本期的主要内容，请大家继续关注，了解更多科普知识。

- DataCastle -