FortiGuard报告安全趋势明确指出“网络攻击者已经开始尝试AI手段”，ChatGPT的火爆之际的猜测、探索和事实正在成为这一论断的佐证。攻守之道在AI元素的加持下也在悄然发生剧变。
Fortinet认为在攻击者利用ChatGPT等AI手段进行攻击的无数可能性的本质，其实是攻击者效率的颠覆性提升，以及攻击门槛的显著降低。而作为防守方，网络安全产品和方案也应该与时俱进，充分发挥AI能量。
“把魔法关进笼子”
“堪比PC和互联网的诞生”、“两个月用户超2亿”……无论是行业领袖的赞誉，还是事实数据，抑或是社交圈的霸榜，ChatGPT带来的冲击有目共睹。但是在其火爆之余，隐私、安全、伦理、法规等问题也不断被提出。
“不要将关键信息输入ChatGPT”、“ChatGPT会将所有输入用于训练，输入敏感信息有泄密危险”，这是微软、谷歌等全球知名企业从安全角度给出的忠告。而由ChatGPT引发的假新闻、粗话等翻车现象更让各行业人士提出了 “把魔法关进笼子”的想法。
简而言之，AI的革命性生产力是毋庸置疑的，但要让AI发挥正面价值，也要规避已知和潜在的风险。尤其，对于网络安全行业来说，AI的加入正在彻底影响着网络安全的攻守之道。对待AI，网络安全不但要“把魔法关进笼子”，还需要“用魔法打败魔法”。
攻守之道局势剧变
国际云安全联盟CEO Jim Reavis（吉瑞威）向ChatGPT提出了四个问题，从四个方面讨论 ChatGPT 对安全的影响，其中“ChatGPT如何被恶意行为者用来网络攻击？”、“企业如何使用 ChatGPT 改进网络安全计划？”两个问题，展现了AI对于网络安全攻守之道的影响。
其实，在ChatGPT火爆之前，Fortinet安全报告已经明确指出，网络安全攻击已经开始尝试AI技术，目前在攻击前的情报搜集等阶段，攻击者已经开始尝试AI等自动化方法。而ChatGPT对第一个问题的回答是“社工”、“撞库”、“垃圾邮件和虚假消息”、“生产恶意软件”、“创建虚假资料”等，这些猜测更是将 AI 在网络安全攻击应用扩展到更大的范围。
事实证明，就在ChatGPT火爆之后，已经有网络安全人士使用简单的自然语言，让ChatGPT给出了相应的攻击代码，验证了“恶意软件生成”的猜想。而基于ChatGPT的垃圾邮件的出现也验证了ChatGPT对“垃圾邮件和虚假消息”攻击提供辅助的猜想。
由此可见，无论是权威报告，还是ChatGPT给出的假设和猜测，以及不断出现的事实，都让人们看到AI用于网络安全攻击是必然的。Fortinet认为，无论是ChatGPT还是其他的AI手段，在网络攻击中的应用，本质是效率的提升和门槛的降低。
AI的优势不在于超过人类的攻击能力创新，而是可以通过自动化能力极大的降低攻击门槛、提升攻击效率，这也直接导致了网络安全攻守局面的划时代变革。首先最直接的影响就是攻击量的显著增长，Fortinet报告显示，在自动化、AI、 “即服务” 等技术和模式加持下，网络安全攻击呈现出暴涨趋势。
简单地说，AI可以让以前没有能力发起攻击的人利用AI发起网络攻击，同时，AI通过更逼真的诈骗内容的生成、自动化扫描和数据挖掘、情报创建，大幅提升攻击成功率，并实现了24小时无人值守、不间断的攻击，扩大攻击时间范围。
“用魔法打败魔法”
Fortinet指出，随着AI在网络安全攻击领域的应用，未来网络犯罪及攻击手段将持续快速扩展。值得庆幸的是，攻击者所采用的诸多战术和策略大体一致，因而有利于安全团队及时采取有效策略，主动拦截威胁。安全团队应加紧部署由机器学习（ML）和AI等先进自动化技术持续赋能的安全解决方案，实时检测攻击模式并拦截威胁， “用魔法打败魔法” 。
目前，针对攻击者利用AI发起更快、更多、更隐蔽的变种病毒、钓鱼邮件、勒索、撞库等攻击，Fortinet为用户提供从第一时间搜集并提供全球威胁情报，到建立本地基于AI的未知威胁检测和防御体系的全方位AI安全防护方案。
具体来说，作为Fortinet的威胁情报大脑，FortiGuard Labs是Fortinet的全球网络安全研究团队，致力于发现和解决网络威胁问题。他们运用AI技术来分析、监测和识别网络安全威胁，从而提高网络安全防御的效率和准确性。FortiGuard AI 驱动的安全套件提供市场领先的安全功能，旨在保护部署在任何地方的应用程序、Web 流量、设备、数据和用户，持续评估风险并自动响应，应对分布式网络中已知和未知的风险。其实时威胁情报服务，帮助客户抵御最新的AI加速的攻击，最新的威胁情报可以部署在重要资产附近，以确保快速、实时的检测和响应。
在AI层面，FortiGuard威胁情报中心具备以下特点：
- 实时威胁情报：通过AI辅助，FortiGuard Labs采用数百亿神经网络节点，帮助Fortinet的安全专家们根据对不断变化的威胁形势、零日发现的内部研究，以及通过行业联盟，在整个 Security Fabric 中开发持续的安全更新。
- 可信的机器学习和人工智能：提供本地学习和静态分析的独特组合，以识别基于大规模云驱动的数据湖（沙盒、EDR、NDR、僵尸网络/C2、Web、DNS、SaaS）上的人工智能（AI）和机器学习（ML）模型的快速智能本地增强的异常学习等。
- 威胁搜寻和爆发警报：具备AI加速的缓解爆发性网络威胁事件的警报、分析和检测、预防和补救工具，采用了MITRE ATT&CK 的方法论进行分析，并联动全球威胁情报伙伴。
FortiGuard Labs的专家和AI共同工作，时时刻刻都在为Fortinet的用户提供实时保护，以下是一些数据：
在FortiGuard Labs所提供的强大的实时威胁情报的加持下，Fortinet Security Fabric中的各个产品，如FortiGate，FortiSandbox，FortiMail，FortiWeb，FortiEDR，FortiClient等，都能够在不同的应用场景下为客户提供全球一流的防护能力。
此外，针对高级用户提出的专门针对自己的独特网络、应用和计算资源建立一个私有的、基于AI的实时威胁情报检测中心的需求，Fortinet的答案是，可以！FortiNDR正是合适之选！这是一款基于AI的网络检测与响应（Network Detection and Response）解决方案，可以部署在客户的私有网络（On-Premise），通过FortiNDR的AI芯片和算法加速，构建秒级的未知威胁检测技术，并自动产生私有威胁情报。这些私有威胁情报与FortiGuard提供的云威胁情报相辅相成，让本地和云端的AI同时为客户提供对抗“黑色”AI的能力。
具体来说，FortiNDR通过机器学习（ML）和人工神经网络（ANN）等技术来检测网络异常和恶意软件，进行网络流量和文件分析以及跟踪攻击原因，并实时响应全新的未知攻击威胁，从而减少网络威胁对组织的影响。它具备以下的特点：
- 监测和检测网络威胁：使用AI技术来识别和监测网络流量，以便快速发现网络中的威胁。AI技术可以自动学习和识别正常的网络流量模式，并警报异常的活动。
- 自动响应安全事件：利用AI技术来帮助自动化安全事件响应。当检测到安全事件时，AI系统可以自动启动相应的安全措施来阻止攻击，从而降低安全事件对网络的影响。
- 快速调查安全事件：自动收集和分析事件数据，并将其与历史数据和基准数据进行比较。这有助于更快地确定安全事件的影响范围和影响程度。
诚然，AI的加入让攻守双方都迈入了一个全新的时代，但对于网络安全来说，ChatGPT等 Al目前只能在某些环节、功能上提供辅助：对于攻击者来说，可能是一段功能性的代码或一封欺诈邮件等；而对于防守者来说，可能是一些情报信息等，但其自身不能独立完成完整的安全防御。换言之，AI 还是要回归其“工具”的本位。
对此，Fortinet指出，简单叠加单点安全解决方案早已无法有效应对高级复杂威胁攻击，企业亟需部署全面覆盖、深度集成与动态协同的网络安全网格平台，提升安全弹性，实现更紧密的集成、更深入的可见性，以及跨整个网络构建更快速、更一致且更有效的威胁响应体系。
本文作者：Fortinet中国区技术总监 张略
