深度分析人工智能技术带来的机遇与威胁

登录注册

摘要：人工智能（Artificial Intelligence，AI）确实是计算机科学的一项革命性壮举，在未来几十年中，它将成为所有现代软件的核心组成部分。这既是威胁，也是机遇。世界各国将会部署人工智能

人工智能（Artificial Intelligence，AI）确实是计算机科学的一项革命性壮举，在未来几十年中，它将成为所有现代软件的核心组成部分。这既是威胁，也是机遇。

世界各国将会部署人工智能以增强网络攻防运营。此外，新的网络攻击手段将被发明。最后，人工智能对大量数据的需求，会放大数据的重要性，将重新定义数据保护。

全球各国的决策，对于确保这一划时代的技术，是否能给世界带来安全和繁荣至关重要。

人工智能与大数据

一般来说，人工智能是指能够在执行某些任务时替代人类智能的计算工具。

这项技术目前正以极快的速度发展，与二十世纪后期数据库技术的指数级增长很像。数据库已经发展成为驱动企业级软件的核心基础设施。同样，未来几十年软件的新增，预计大部分将由人工智能驱动。

在过去的十年里，为了处理被称为“大数据”的新现象，数据库已经有了显著的发展。这指的是现代数据的全球规模很大，这些数据主要来自计算机系统，而这些计算机系统几乎渗透到了日常生活的方方面面。例如，YouTube每分钟接收超过400小时的视频内容。

大数据和人工智能有着特殊的关系。最近人工智能发展的突破大多来自“机器学习”。这种技术通过使用大数据集来训练人工智能，而不是为人工智能指定一组要遵循的静态指令。

例如，人工智能聊天机器人，可以根据收集自messenger应用程序的人类对话文本录音的数据集进行训练，以学习如何理解人类所说的话，并想出适当的回应。可以说，大数据是人工智能算法和模型的原材料。

创新的主要限制不再是记录和存储信息的困难，而是从目前收集的海量数据中找到有用的东西。人工智能可以在庞大的数据集中发现超出人类感知能力的创意。通过这种方式，人工智能技术的采用可以使平凡和看似琐碎的数据变得有价值。

例如，研究人员通过训练计算机模型来识别一个人的个性特征，这比他们的朋友所能做的更准确，仅仅基于这个人在社交软件上点了什么赞。

人工智能与网络安全

几乎每天都有关于重大数据泄露或造成数百万美元损失的网络攻击的新闻报道。

网络损失难以估计，但国际货币基金组织认为，全球金融部门每年的网络损失在1000 - 2500亿美元之间。

此外，随着计算机、移动设备、服务器和智能设备的日益普及，网民受到威胁的总量每天都在增长。

人工智能的基本目的之一，是将以前需要人类智能才能完成的任务自动化。减少一个组织为完成一个项目而必须使用的劳动力资源，或者减少一个人必须用于日常工作的时间，可以极大地提高效率。

例如，聊天机器人可以用来回答客户服务问题，医疗助手AI可以用来根据病人的症状诊断疾玻

同时，在将AI应用于网络防御的简化模型中，来自服务器和网络组件的记录的活动日志可以将对方标记为“敌对”或“非敌对”，并且可以使用此数据集来训练AI系统，以将未来的观察分为这两类之一。该系统可以充当自动哨兵，从巨大网络流量中挑选出不寻常的观察结果。

这种自动化网络防御对于应对目前必须受到监控的大规模网络活动是必要的。未来，只有将人工智能应用于这项任务的系统，才能应对网络安全环境中的复杂性和变化性。

不断地重新训练这样的人工智能模型是必要的，因为就像人工智能被用来防止网络攻击一样，各种类型的敌对行为者也在使用人工智能来识别模式和识别潜在目标的弱点。这是一个游戏，也是一个战场，每一方都在不断地探察另一方，并设计新的防御或新的进攻方式，而这个战场每时每刻都在变化。

人工智能不仅会增强现有的进攻和防御策略，而且还会在网络安全的战斗中开辟新的战线。

也许黑客武器中最有效的武器是“网络钓鱼”利用收集到的目标个人信息，向他们发送个性化的信件。一封看似是朋友写的邮件，或者与目标个人爱好有关的链接，都有可能成功避开接受者的怀疑。

这种方法以前需要大量的劳力，要求潜在的黑客手工对每个目标进行详细的研究。然而目前，类似于聊天机器人的人工智能，可以利用从人们的浏览历史、电子邮件和社交媒体中获取的数据，为大量的人自动构建个性化信息。通过这种方式，敌对方可以使用AI戏剧性地扩大他们的进攻行动。

数据的价值

人工智能技术将以另一种方式改变网络安全环境，因为它对数据的吸纳，完成了学习什么样的信息可以构成有用的资产，它能将以前人们不感兴趣的信息宝藏变成诱人目标。

虽然有些网络攻击的目的仅仅是破坏，但许多攻击的目的是获取战略资产，如知识产权。网络攻击者正玩一场长期游戏，以未知的目的获取数据。人工智能系统可以利用无害数据，引发“数据悬停”的策略收集一个人可以收集的任何信息，并将其存储以供将来战略使用。

数据和AI实现了无形资产和有形资产的连接、统一。数据量正成为商业、国家安全乃至政治领域成功的关键因素，因为人工智能可以从看似完全不同的信息源中得出有用的见解。因此，这类大容量数据很可能成为操作该领域的参与者的攻击目标。

政策的影响

全球政策制定者已开始将注意力转向人工智能技术广泛应用的后果，尤其是它对网络安全的影响。

七国集团（G7）在2018年魁北克省夏洛瓦峰会上将注意力转向了AI的治理，承诺将“促进以人为中心的人工智能”。

将人工智能技术应用于网络钓鱼等已存在的网络攻击策略，不仅会增强它们的有效性，而且通过规避劳动力限制还会增加能够实施这些攻击的参与者数量。这使得建立有效的网络空间全球治理和国际数据保护的努力更加紧迫，例如联合国政府专家组试图为此建立公认的行为准则。

这些使更具有威胁性的网络攻击成为可能的人工智能技术，也正在推动民用经济的增长。

尽管人们普遍认为人工智能是对隐私的一种威胁，但它也有可能帮助保护隐私，并对专有数据及其衍生资产实施控制。政策制定者将不得不仔细考虑如何规范这些技术的使用，权衡在不扼杀创新的情况下，不让强大武器落入恶者之手。

由于敌对行为者能够极其轻松地跨越法律边界，任何单方面限制在其境内使用人工智能和开发这些技术的国家都将使自己处于竞争劣势。

此外，随着人工智能技术越来越融入一般经济和民用领域，现有的法律和规范框架可能需要调整，以涵盖新的攻击形式，如数据中毒。到目前为止，数据盗窃一直是网络空间的主要问题。未来，敌人可能会试图进入数据库，不仅是为了获取信息，而且还会改变和操纵这些信息。构成网络攻击的法律定义可能需要修订，以涵盖这些新威胁。