人工智能黑客即将到来，这不是夸张，这一切都不遥远。10年前，部分计算机科学家就预感，世界正处于网络冲突新时代的风口浪尖，在接下来的网络时代，基于人工智能的网络攻击将对世界造成严重破坏，就连美国都在担心“网络珍珠港”事件什么时候会发生。
2017年，全球一场最具破坏性的“NotPetya”网络攻击，虽然仅采用自动化技术，还尚未涉及人工智能，但是已经造成如此之大的破坏。
同样，2019年以来勒索软件的攻击急剧增加，甚至蔓延到国家关键基础设施。例如，2021年美国某燃气公司遭到勒索软件攻击，导致其燃气管道关闭6天，切断了17个州的燃料供应，直接造成数以千计的美国学校、企业和医院受到影响。此外，勒索软件还造成数美国百家政府机构的数据遭到恶意删除或篡改。
目前网络犯罪活动虽然五花八门，但还尚未广泛采用人工智能技术。不过随着人工智能技术大范围应用普及，机构和个人几乎可以不受限制地使用。网络安全分析人员认为如果传统的网络攻击开始失去效力，“黑客”们将会毫不犹豫地寻求人工智能支持其网络攻击活动，从而引发更坏的未来网络安全环境。支持人工智能的网络“黑客”将以前所未有的速度发现和利用网络漏洞。
人类对人工智能的“信任度”
2016年，美国佐治亚理工学院发表了一项关于人类对机器人信任度的研究报告。该研究使用了一个非人形机器人来协助人类在建筑物中导航。首先，参与者在正常环境下与机器人互动，机器人故意表现出“并非可靠”的导航能力，让参与者提前认知机器人的导航能力。然后，实验的设置就是：参与者必须决定是否在紧急情况下遵循机器人的命令。通过实验发现，虽然所有26名参与者在实验开始前就知道机器人的导航能力也很糟糕，但是在紧急情况下还是都服从了机器人的指令。实验参与者对机器人的信任程度非常惊人，在紧急情况下大部分人放弃了常识判断，更倾向于相信机器人。这是这种非理性的判断，在接下来的网络安全中人工智能将会“扮演”举足轻重的角色。
准备应对“人工智能黑客”的攻击目前的攻击活动还不能证明黑客已经开始大量使用人工智能技术。因为，将现有人工智能技术融入到网络攻击还是一种十分复杂的工作。人工智能技术和互联网技术之间的重叠程度不高，将二者深度结合需要相当专业的技术力量进行构架关联。
但是，“黑客们”如果越来越难以攻入互联网安全屏障，就会迫使他们不断探索新的进攻方法。这时候用于黑客攻击互联网的人工智能增强型网络工具就很可能会出现。而且，因为人工智能研究具有开放性，人工智能增强型网络攻击工具一旦出现将会以很快的速度在整个互联网上传播。
对于国防、军工等关键领域，得益于人工智能机器学习技术应用，其网络安全性已经得到有效的提升。机器学习的优势在于它能够识别大型数据集中的数据模式，可以采用对象分类等算法来检测网络上的可疑活动。当前，机器学习技术在传统入侵检测中的应用已经挫败了许多网络攻击活动。例如，垃圾邮件检测任务正是由于机器学习技术的应用才得到了质的改进。
人工智能可以革新网络防御吗？长期以来，漏洞检测一直是软件开发过程的重要组成部分。如何实现这一过程的自动化一直以来都是网络安全人员研究的重点。2016 年，美国国防高级研究计划局 (DARPA) 举办一项网络安全挑战赛，旨在探索构建能够实时检测和修补漏洞的自动化系统。虽然获胜团队展示了他们研发的自动化漏洞检测系统的能力，但他们并没有应用人工智能技术，他们的检测系统严重依赖比赛场景和传统漏洞检测工具，泛化能力十分有限。
人工智能技术会导致更具破坏性的网络攻击，还是会彻底改变网络防御？通过研究过去30年来网络防御行动的演变，可以得到一些线索。系统或者软件漏洞是“黑客们”实施网络攻击的基础和立足点。因此，人工智能技术的应用是否可以明显改善当前的技术弊端成为网络安全领域研究的重要课题。也正是出于这个原因，系统漏洞自动检测和人工智能网络安全成为各国大力投资研发的两个重要领域。
由于进攻和防守都在竞相利用人工智能技术，所以从人工智能中受益的也不仅仅是网络攻击者。机器学习和其他人工智能技术也可以加强网络防御工作，尽管还没有达到应对网络攻击所需的能力，但是有理由相信人工智能也将成为网络攻防力量转换的重要力量，问题的关键是哪一方将受益更多。
Google的子公司DeepMind就在人工智能应用领域起到了很好的示范作用，DeepMind将人工智能程序AlphaFold应用于确定人体蛋白质的基础结构。一位著名研究人员描述：“这项突破性的人工智能程序，将改变医学、改变生物工程、改变一切”。AlphaGo系统成功展示了人工智能在更广泛领域应用的潜力。因此，网络安全人员也寄希望于人工智能技术可以在复杂的网络防御工作中发挥同样的效果。
虽然，新的人工智能应用程序令人印象深刻，但并不能保证将网络安全的防御任务交给人工智能是可行的。网络安全相关的整个任务范围包括：威胁识别、保护、检测、响应和恢复等诸多环节，很多标准需要人工衡量，这对于人工智能将是一种极大挑战。
人工智能与网络安全深度融合所面临的问题虽然还很多，但是对于网络安全而言人工智能技术的潜力非常重要，不容忽视。特别是，如果“黑客”应用人工智能技术实现漫游网络攻击、探测弱点和自主攻击等能力，届时缺少人工智能技术加持的网络安全将会非常脆弱。从理论上讲，“黑客”可以同时启动数千个甚至更多的人工智能攻击程序，可能会对国家关键基础设施造成严重破坏。
,
