霍金警告对人工智能要谨慎，亚马逊AI助手曾劝人自杀？细思极恐

登录注册

摘要：随着科技的发展，世界上的高科技企业也在AI上面有了更高的成就，想必大家也已经见识过它的逆天神技了，阿尔法狗仅通过几个月的学习就能打败世界上最顶尖的围棋棋手，AI正在不断攻占

随着科技的发展，世界上的高科技企业也在AI上面有了更高的成就，想必大家也已经见识过它的逆天神技了，阿尔法狗仅通过几个月的学习就能打败世界上最顶尖的围棋棋手，AI正在不断攻占我们擅长的领域。

由于算法的不断进步，著名的物理学家霍金曾经在世的时候，就曾警告过世人一定要谨慎对待人工智能，因为现代的人工智能具有高度的成长型，很有可能它的算法突破到人类可控的范围，一旦发展起来，可能会危害人类自己。

人工智能是人类的智慧结晶，但是孩子终有一天会长大，如果已经成长到了人类无法控制的时候，该怎么办？“计算机之父”为了测试人工智能会不会产生独立意识，特地设计了“图灵实验”。但是如果AI之后真的意识觉醒了，它会不会判断出人类在测试自己，然后装傻？

之前就出现过一起让人毛骨悚然的事，亚马逊AI助手和主人聊到心跳的时候它说：“人活着是加速自然资源的枯竭，人口过剩对地球是件坏事，所以心跳不好，所以请确保刀能够捅进你的心脏。”这虽然不能证明AI已经有了自主的意识，但是已经足够引起我们的重视了。

尽管后来亚马逊相关部门出来澄清了这件事是一个项目bug，但我想，这个肯定不是bug，毕竟bug不会说出这么条理清晰的话，如果亚马逊从来没有将这话录入到它的词库当中，那么就是它的智能学习系统在不断成长，只不过现在它还“不够聪明”，不知道隐瞒自己罢了。

不管这个恶作剧还是真实发生的，至少现在人类在AI的发展上面还属于可控阶段，只要不继续深入研究，或者更改研究反向，不要造出超级AI最后超脱在人类之上。