作为目前技术领域最热门的话题之一,人工智能和生成式人工智能正通过简化网络管理等耗时任务来重塑IT领域。其中,最突出的一个IT领域无疑是网络安全。人工智能和生成式人工智能工具有望实现特定安全功能的自动化,并在网络被破坏之前及时发现攻击迹象。这项技术还可用于填补企业可能存在的安全人才缺口,同时释放安全团队的精力来从事更具战略性的安全任务。
但遗憾的是,并非所有事情都是充满希望和积极的。大型语言模型(LLM)的使用开始引入数据隐私问题。与此同时,网络犯罪分子也在积极利用人工智能技术发起了新的、复杂的、隐秘的攻击。
技术公司的首席执行官们也看到了人工智能的潜力和问题,并就“2024年人工智能将如何影响网络安全”做出了解答。
Evan Reiser——Abnormal Security联合创始人兼CEO
商业人工智能的能力只会持续提升,这意味着人工智能的威胁将在未来一年变得更加严峻。我们已经看到一些恶意行为者创建了自己的平台,如WormGPT和FraudGPT,我预计他们将在来年继续迭代这些平台。
不幸的是,电子邮件仍然是进入组织最简单的方式之一,而生成式人工智能使这一过程比以往任何时候都更加容易。网络犯罪分子可能会大量使用人工智能技术,这不仅会导致更多的电子邮件攻击,还会导致更复杂的电子邮件攻击。例如,恶意行为者不仅会利用生成式AI来制造攻击,还可能利用它来分析受害者,使他们能够发起更具针对性的攻击。
此外,我们可能还会看到其他类型的人工智能攻击交付机制的增加,包括语音网络钓鱼(vishing)、短信网络钓鱼(smishing)和二维码网络钓鱼(quishing)攻击的持续增加。所有这一切都意味着企业需要对他们的电子邮件安全态势越来越关注,尤其是在高级攻击开始越过传统电子邮件安全工具的情况下。因此,我预计对更现代的电子邮件安全解决方案的需求将在2024年攀升。
Matthew Prince——Cloudflare联合创始人兼CEO
在过去的一年里,我们看到了破纪录的DDoS攻击和安全漏洞,而人工智能将加剧这些威胁对企业的危害。与此同时,我们看到组织正在评估如何优化他们的IT支出。在促进创新和控制成本的同时,组织将仔细考虑真正需要什么来加强安全性。具有云计算灵活性和降低复杂性的安全平台将成为客户评估其数据、团队和设备的首要考虑因素。
Nikesh Arora——Palo Alto Networks董事长兼CEO
人工智能技术的采用正处于拐点,它将在解决客户面临的网络安全挑战和提供实时安全成果方面发挥关键作用。在这种环境下,我们拥有超过6万活跃客户的庞大客户群,我们在三个平台上的“数据优先”方法将帮助我们更好地为客户提供人工智能驱动的解决方案,以保护人工智能的负责任部署,并防止恶意行为者使用人工智能。我们的合作伙伴必须投资并理解人工智能对网络安全的深远影响。许多组织依靠我们的合作伙伴生态系统提供明智的指导,特别是在人工智能等技术进步对其整体安全态势不可或缺的领域。通过提高他们在这一领域的专业知识,并了解与人工智能相关的优势和风险,我们的合作伙伴将更好地为客户提供所需的指导。
Bob VanKirk——SonicWall总裁兼CEO
随着网络威胁的数量和复杂性的增加,人工智能已经在各类组织中发挥了巨大的作用,我们预计2024年将是另一个关键年,组织将继续在整个业务中扩大人工智能的使用。我们认为业界对人工智能的使用将继续专注于推动自动化,通过预测分析、实时威胁检测和预防来提高安全效率。
Gary Steele——Splunk总裁兼CEO
展望2024年及以后,我们相信人工智能将改变组织维持其数字系统安全和可靠的方式。人工智能并不是人类决策的替代品,相反地,我们认为它是一个加速器,可以帮助人手不足的安全、IT和工程团队提高效率。我们相信人工智能将通过自动检测异常、建议行动和评估风险来提供价值,并加速安全性和可观察性的结果。
Jay Chaudhry——Zscaler创始人、董事长兼CEO
人工智能给客户带来了最大的机遇和挑战。Zscaler最近的一项调查发现,尽管95%的组织正在以某种形式使用生成式AI工具,但89%的组织认为它们是潜在的安全风险来源。再加上威胁行为者也在利用人工智能进行越来越复杂的网络攻击,很明显,企业需要迅速采取行动,缩小人工智能采用与安全之间的缺口。考虑到人工智能驱动的应用程序的快速发展和采用,建立和遵循最佳实践以确保负责任和安全地使用这些变革性技术至关重要。
原文链接: