如果要评选2024年最热门的安全技术，非AI莫属。

自ChatGPT诞生以来，将AI大模型应用至网络安全是全行业最关注的焦点。无论国内还是国外，一个共同的现象是，头部安全厂商纷纷发力AI安全的研究与落地，如何将AI的能力深度融合于企业安全体系之中，已成为未来最具想象力的方向。

与之相对应的是，全球网络安全领域正面临人才缺口扩大的挑战，主要表现为人才缺口持续扩大、技能缺口逐渐明显和AI人才需求激增。《网络安全人才实战能力白皮书》指出，到2027年我国网络安全人员缺口将达327万，九成受访企业表示缺乏具有安全能力和实战技能的人才，例如缺乏具有专家级能力的安全运营人才，因此人员紧缺和技能缺口已成为安全行业的重大挑战。

AI正在成为全新的生产力工具，火山引擎云安全作为赛道的重要参与者发展势头强劲。12月18日—19日，火山引擎FORCE原动力大会在上海成功举办，在围绕 “ai+x”全栈能力解读为主题的技术主论坛上，火山引擎云安全产品负责人刘森以“让智能更安全，让安全更智能”为主题，分享在AI大模型日益火热的当下企业面临的安全挑战，以及火山引擎云安全智能化、安全化的解决方案。

在“让安全更智能”专场论坛，更有来自赛博英杰、天际友盟、民航电子和火山引擎云安全的多位嘉宾，分享火山引擎云安全智能体的落地实践。其中，火山引擎云安全产品负责人刘森分享“让安全更智能”主题演讲，现场重磅发布2024年度安全产品——“安全智能体”，通过AI智能体技术实现高效、高质量的安全运营，让最佳安全经验真正能服务每个企业。

会后，FreeBuf特邀刘森以“AI for Security，Security for AI”为主题进行专访，分享他们在AI安全领域的探索、成果与体会，勾勒出火山引擎云安全在AI安全战略上的蓝图。此次安全智能体的发布是其在AI安全领域的一小步，也是一个重要支撑点，坚定且不可忽视，并足以撬动未来AI安全的千亿市场。

一、安全运营正在成为“救火游戏”

随着网络攻击趋利性越来越明显，攻击者的策略和手法越来越倾向于复杂化、自动化和效率化，并逐渐呈现出两极分化的趋势。

一种是以社工、网络钓鱼、网络诈骗等低门槛攻击方式，无特定攻击目标，以较低的成本来实现获利，例如常见的大范围网络钓鱼、勒索软件即服务（RaaS）模式等。

另一种则是以利用各种0Day漏洞，复杂的攻击链等攻击方式，针对的往往是 500强企业，常见于大金额勒索攻击事件中。例如在2024年年初，Dark Angels勒索组织入侵了某世界财富50强公司，成功勒索了7500万美元（约5亿4000万人民币），高于目前所有已知的赎金金额。

整个勒索过程十分复杂，Dark Angels投入了大量的时间与资源。Dark Angels首先以各种包括社工在内的网络攻击方法入侵企业的网络，获得初步访问权；其次则在企业内部横向移动，逐步接近并获取更高级别的系统权限；最终在取得系统权限后窃取了大量机密数据，并对系统进行加密和勒索。值得一提的是，在整个过程中Dark Angels一直潜伏在目标企业系统中却从未被发现，这值得我们反思：在高度复杂化的攻击趋势下，传统安全运营是否能够有效应对？

AI大模型的应用进一步提升了攻击者的威胁性，并且降低了攻击的成本和技术门槛，尤其是在自动化、大批量执行复杂的数据分析和策略方面有着无与伦比的优势。借助AI大模型强大的自动学习、适应和进化，攻击者无需手动编写复杂的代码或策略，即可发起高效、精准的攻击，这使得网络攻击相较于以往更加容易实施且难以防范。

面对如此严峻的安全态势，刘森表示，“传统安全技术现阶段很难有大的突破，这也是AI大模型能够成为行业的焦点的核心原因，大家更希望它能够给安全带来变革。”

如果要吐槽企业安全存在的问题，CSO们可能三天三夜也说不完。以企业安全运营为例，目前的痛点主要集中在以下几个方面：

1. 告警运营正面临严重安全专家人力资源短缺问题，实际告警研判覆盖率不足 1%，处理事件时效在天级别；
2. 使用人工实现告警全覆盖代价惊人，现有威胁信号无法有效消化，采集更多威胁信号更无从谈起，运营形同虚设；
3. 部署了多款安全产品，无法联动，人工关联分析效率低，孤岛效应明显；
4. 现有运维人员安全专业水平不足，对新工具的跟进和运用滞后；

于是，企业安全运营被迫变成了一场令人头秃的“救火游戏”，救火队员们每天都疲于奔命，哪里出现火灾就集中灭火。但人力有穷时，告警无穷尽，因此火苗总是会出现，救火游戏永远不能通关。企业安全缺乏足够的专业人力资源，因此难以构建高水平运营闭环，具体表现为告警数量多，人工进行全覆盖代价惊人，容易漏掉关键风险；应急事件频发，人员疲劳影响告警处理的准确性和效率；运营人员水准难以拉起，且存在疲劳时间。

对此刘森表示，AI大模型则恰好极为擅长处理重复性、自动化的任务，可以显著提升安全运营的效率和覆盖率。例如火山引擎云安全智能体可实现，单条告警研判时效由数小时级别，提升至20秒级别，告警研判覆盖率显著提高；通过多数据源的深度关联分析，发现并溯源中低危告警中的攻击行为。

“目前我们已经看到AI大模型在安全运营、漏洞发现、渗透测试等领域有了实质性的应用，AI展现出来的综合人力远比个人沉淀的经验丰富”，采访中，刘森说，“例如最近的Google旗下AI大模型发现了漏洞的新闻，给我们很大的震撼。”

二、在AI安全领域迈出了一小步

谈及对AI安全未来的看法，刘森表示，“我们非常看好未来AI安全的发展，这是火山引擎云安全****长期不动摇的战略定位”。但和坚定不移的战略相比，火山引擎云安全在AI安全领域的探索却显得有点“束手束脚”，小心翼翼地向前摸索。

在火山引擎FORCE原动力大会-“安全更智能”专场上发布的安全智能体，并没有想象中覆盖所有安全领域，而是深度聚焦于安全运营细分领域。对于笔者的疑问，刘森在采访中表示，此次安全智能体的发布其实是火山引擎云安全在AI安全大战略上的一次尝试。

“借助字节跳动在AI大模型领域积累的坚实基础和沉淀的深厚技术实力，我们想要尝试通过AI赋能安全的方式，探索是否可以真正实现，以AI的方式将字节跳动、火山引擎云安全运营经验沉淀下来，并形成标准化的产品、服务，从而真正解决上述甲方在安全运营方面的痛点。”

安全智能体将不仅仅限于Security Copilot，而是一个智能决策核心，促进安全运营实现“自动驾驶”的模式，将需要人工去处理的，机械枯燥的任务全部由AI大模型完成，其中典型使用场景包括告警自动化处置、日志分析溯源等。

更关键的是，安全智能体的落地将真正做到将“专家级安全运营经验”以标品的方式提供给企业，从而有效解决企业安全人力资源不足的问题。这对于行业整体安全能力来说是一个巨大的提升，并且将大大增加攻击者的入侵成本和攻击门槛。在当下网络攻击趋利化的情况下，增加成本将有效遏制越来越严峻的安全威胁态势。

刘森进一步表示，安全智能体更像是火山引擎云安全倾力打造的AI安全样板间，如果在安全运营层面它能够发挥出AI的力量，那么也就意味着在其他细分领域同样可以发挥出AI的价值，其重要性不言而喻。

正因为如此，火山引擎云安全可谓是集中了大量的资源与人力，全力以赴打造安全智能体，深度调研了企业安全运营的实际痛点与需求，将AI的能力真正落到企业实际业务场景之中。

具体来说，在1.0版本，安全智能体将显著降低告警噪声。一个安全运营专家每天告警处理量约为200-300条，但这将远远低于企业媒体产生的告警量，导致出现大量人工无法处理的告警盲点。安全智能体可以有效解决该痛点，实现7*24小时连续告警处置，并将单条告警研判时间从数小时降低至20秒，将真正有威胁的告警进行提炼并转到安全人员进行处理，大大提升告警处置效率和准确率。

其次，真正发挥出安全设备的价值。随着安全体系中的设备越来越多，很多设备的能力并没有完全发挥出来，有的甚至只有十分之一，大量的安全能力白白浪费。其原因主要是设备对于“人”的依赖性，以及专家级安全人才的稀缺。安全智能体借助AI大模型的能力，可以对现有的安全体系进行自动化适配和覆盖，解决设备不能完全兼容和联动的问题。

例如AI大模型对自然语言的解读，就可以非常准确地提炼出不同格式、不同厂商日志中这个敏感字段，从而实现安全日志处理标准化，并为接下来统一研判打好基础。随着企业业务的壮大与环境的变化，安全智能体也将随之自动调整与变化，只需提供更多的算力和制定相应的策略即可。

回到最初的疑问，之所以将安全智能体描述为一次“尝试”，是因为当下AI安全还远远谈不上“成熟”。即使全球网络安全厂商纷纷投入大量资源，但不可否认的是，AI安全依旧处于探索之中，大量的领域依旧处于一片迷雾之中。

玩过迷雾类游戏的都知道，小范围拓展，慢慢探索地图迷雾，不断学习游戏机制，才是更好更快通关游戏的不二法门。一味地想要迅速破开全地图迷雾，那么很有可能踩上游戏设计者准备好的陷阱，只能重头再来。

游戏可以重开，但现实不行。因此在AI安全大战略上，火山引擎云安全并没有一味地贪全求快，而是集中优势资源，稳稳地在AI安全的征程中迈出了一小步，一点一点摸索地图的迷雾，达到以点破面的效果。

这其实也是古代战争中较为常见的战略思想，将部队或资源集中到选定的关键点上，形成突破力量。一旦在关键点上取得突破，则利用突破口向敌方的纵深发展，迅速扩大战果，最终取得胜利。

因此，安全智能体更像是火山引擎云安全在AI安全的大画卷中，埋下一个坚固的楔子，以便在这片迷雾之中获得一个清晰的视野，并且不断学习如何将AI 大模型的能力转化为稳定的安全能力，为全面AI安全做足准备。

采访中刘森也表示：“未来火山引擎云安全****将坚定地、持续向AI安全赛道投入更多资源，AI大模型很有可能取代传统的CPU，成为企业的另外一个底座，这也是火山引擎云安全在AI安全赛道的核心优势和竞争力。”

三、AI for Security，Security for AI

AI对于网络安全的发展产生了重大影响，不仅是指AI推动了技术创新和产业升级，更是因为AI在与网络安全深度结合的过程中，引入了大量全新、复杂的风险与威胁，其中最核心的是AI大模型的安全性问题。

AI大模型在安全性方面的脆弱性，引发了业界对AI模型安全性的广泛关注，其重视程度丝毫不亚于其本身。随着AI大模型应用日益广泛，安全事件屡屡出现：

1.Hugging Face用户密钥泄露事件：2024年5月31日，由于Spaces平台遭受未授权访问，导致部分用户密钥泄露，进而影响到 AI 模型、数据集和代码的安全。

2.Morris II AI蠕虫事件：2024年3月1日，Morris II蠕虫被发现能够在多个系统中窃取数据和传播恶意软件，且能够规避检测，自动在不同的AI系统间传播。

3.ChatGPT长期记忆功能漏洞：黑客可以利用这一漏洞植入虚假记忆或恶意指令，使AI在回答中出现错误的信息，还可以植入恶意指令，长期窃取用户聊天记录等。

对于日益严峻的大模型安全问题，刘森表示，“目前已经可以看到国内外厂商们纷纷在探索如何提升AI大模型的安全性，例如可通过和传统安全方式（WAF、扫描器等）相结合，或内置安全能力，或打造专门的安全平台。”

事实上在安全智能体发布之前，火山引擎云安全已经为AI大模型打造了一个功能强大的安全平台。例如通过数据隐私保护，实现大模型场景下的数据隐私和权限管控，避免敏感数据泄露；部署安全防火墙，防止大模型受到越狱等恶意攻击；引入大模型安全评测，提前发现潜在的安全风险；而全链路加密的机密云计算则保障了大模型推理服务的安全性......

如果说安全智能体的发布是火山引擎云安全在AI for Security的一次战略突破点，那么在Security for AI赛道他们已经默默地完成了布局。

正如刘森在采访中所说，未来AI大模型将会成为企业新的底座，并给网络安全行业带来革命性的突破；与此同时安全也将成为AI大模型的底座，为AI大模型的落地与发展提供全面的保障。