【小哈划重点：实际上，由于越来越多的物联网和运营设备进入网络基础设施，网络犯罪分子已经有机会和能力发起快速且复杂的攻击，而这些固有的易受攻击的设备，将成为企业网络的入口通道。人工智能所带来的潜在攻击能力，只会进一步加剧对当今数字化转型工作的威胁。】
随着现代威胁形势的不断扩大，将人工智能（AI）添加到安全策略中，对于建立和维持有效的安全状态变得至关重要。鉴于现代网络威胁的速度和复杂性以及当前网络安全技能的短缺，网络安全团队需要机器学习和其他基于AI的功能的帮助，以便检测、保护和缓解现代攻击。
然而，当企业采用人工智能来加强他们的安全工作时，网络犯罪分子也会采用敏捷软件开发，自动化和机器学习之类的东西，来潜在地利用人工智能来更好地识别和更快地利用网络漏洞，这一点也不足为奇。
实际上，由于越来越多的物联网和运营设备进入网络基础设施，网络犯罪分子已经有机会和能力发起快速且复杂的攻击，而这些固有的易受攻击的设备，将成为企业网络的入口通道。人工智能所带来的潜在攻击能力，只会进一步加剧对当今数字化转型工作的威胁。
因此，人工智能可能很快就会提供成功保护或攻击物联网的方法，以便有效地在网络安全专业人员和网络犯罪分子之间建立AI军备竞赛。
为了保护数字化转型并保持严格的安全状态，IT团队必须了解网络犯罪策略的最新变化，这些变化可能会在未来几年内导致AI驱动的威胁环境。他们还需要了解现在可以将哪些AI功能合并到他们的安全堆栈中，以便在他们的网络不断发展和扩展时保持一致的安全状态。
不过，在AI防御开始之前，人工智能网络攻击也不能被忽视。
最新AI攻击手法，插入噪音就能破坏语音识别
Koos Lodewijkx，IBM Security的CTO兼VP曾分享到，目前至少有三种与人工智能相关的网络安全攻击手段。
首先是利用人工智能提高攻击效率。比如，现在黑客可以通过机器学习，分析社群媒体上的讯息、朋友圈等，依照这些个人化信息发起针对性攻击，提高钓鱼攻击成功率。此外，现在网络上也出现通过机器学习以及可自动识别图像的免费软件，让黑客可破解用来防御自动化攻击的验证码机制。
其次是黑客攻击AI系统。这是以一种改变系统的方法进行攻击，简单来说就是污染AI系统，或是找到AI系统弱点、绕过防御以进行攻击。以微软在2016年推出聊天机器人Tay为例。网络罪犯可以借助机器学习技术让它在每次的对话中改变回复话语，以至于该机器人在上线24小时候就出现了种族歧视的言论。其实不仅仅是聊天机器人，Lodewijkx表示，现在的技术也能做到入侵语音识别系统，只要在声音中插入噪音，就能彻底改变翻译结果，让机器说出特定语句。
虽然这些看似无伤大雅，但由于AI已经被企业大量用于商业营运中，一旦被黑客知道模型如何训练和运作，就能借此机会破坏训练模型的数据来操控模型。比如，银行把AI导入借贷决策系统来分析申请人的收入、年龄、居住地、信用分数等，以决定是否批准该借贷，一旦找到方法绕过侦测，就算有很差的信用分数仍可贷款成功。
至于最后一种攻击手段，黑客看重的不是模型本身，而是用来训练AI模型背后的数据。Lodewijkx表示，黑客已经可以窃取训练AI模型背后的数据。以图像识别系统为例，正常情况是，给出图片后，系统可以识别出人名，而在破解系统后，黑客只要拥有姓名，就能逆向重建图片。
面对黑客攻击，人工智能从三个层面进行防御
不只是攻击端，AI之于网络安全防御，也是不可或缺的角色，以IBM为例，该公司旗下的网络安全产品几乎已全面接入人工智能。那为什么要用人工智能进行防御？
首先，Lodewijkx指出，现在的资料数量庞大，来自网络、计算机系统、数据库等等，随之而来的是资料、威胁、环境都变得更复杂。在这种情况下，却面临网络安全技术人才的短缺问题。IBM的一项调查指出，到2022年，网络安全领域会有180万份的人才短缺。这也是为什么需要在网络安全工具中导入AI，而AI也能提高侦测和反应的速度，降低损失。
就目前的情况而言，最常见的AI应用是预测分析（predictive analytics），也就是借助机器学习分析大量数据，从中找出异常。举个例子，利用人工智能监控网络流量或使用者行为，找出不寻常的地方，或是观察人类如何和计算机或手机互动，进而辨别出这是真正的人类、还是假装成人类的恶意软件。此外，也能找出假的威胁警报，降低误报率。
第二个层面是智能强化（Intelligence consolidations），也就是把网络安全研究工作交给AI。现在，IBM正在教旗下人工智能平台Watson读网络安全方面的新闻、研究报告以及Twitter等，进而建立知识图谱，并找出每个知识间的关联性。训练完成后，当告诉Watson一个IP位址、网址或档案，Watson就可以及时给出该档案的相关信息，减轻分析师的工作，让他们不必亲自去读取大量资料。
第三种则是智能回应（intelligence response），其目标在于提高一定时间内的分析效率。Lodewijkx指出，以网络安全营运中心为例，分析师有58%的时间都是花在重复性工作上。举例来说，当网络安全监测系统发出警告时，分析师必须比对不同的应用程序、数据库和系统，确认该警示是否为真，鉴于这些步骤是固定的，所以很适合自动化。
不过，尽管现在很多人工智能技术已经被用于网络安全产品，但我们也不能认为人工智能可以解决所有的网络安全问题，至少现在距离这一目标还有很长的路要走。而随着智慧城市、工业互联网、自动驾驶等将在未来十年普及，人工智能安全将成为产业发展的蓝海。在这种情况下，运用人工智能赋能网络空间安全也变得十分必要。
与此同时，面对技术规范、行业标准、法律法规尚未健全的人工智能新领域，制定统一的安全监测标准、安全防范架构、安全评估体系对于让网络空间安全成为人工智能的重要应用领域也有举足轻重的作用。可以说，随着人工智能技术日趋成熟，人工智能在“AI+安全”领域不仅能够全面提高网络空间各类威胁的响应和应对速度，而且能够全面提高风险防范的预见性和准确性。
