可靠行动
透明可审计响应
31攻击策略树框架[35]
1定义内涵
智能安全运营的自动化流程的有效运转,依赖多层次技术的鲁棒集成,更离不开人对技术自动化运行过程的监控、反馈、控制与审计。网络空间实体元素的稳定安全,是经济、军事、安全攸关的重要组成。在发挥安全机器智能在特定运行环境下的自主性的唯有透明的、可控的系统行动,才能有效与运营整体流程进行整合。升事件响应等策略执行环节的信息透明度,是运营技术能力升级的关键环节。3思路方案
策略部署执行、效果反馈,有复杂的技术依赖。现阶段SOAR的编排与自动化响应能力,可称为流程自动化,距离数据、智能驱动的技术自动化还有很长的路要走。透明可审计响应技术的实现,面临的主要挑战包括:
运营数据生命周期跟踪响应行动是自动化系统运行循环中的环节之其策略输入、效果输出与整个运营流程在数据层次呈现紧耦合。不确定的网络攻防系统环境中,线索发现与分诊、事件溯源重构、系统风险评估、策略生成等阶段中,运营流程以数字化的形式流转。模型偏差的积累、技术节点的失效等多种因素,都可能导致无效的甚至错误的行动。对运营数据的整个生命周期进行持续监控、分析尤为关键。
策略执行效果度量
AISecOps技术发展趋势
罗马不是一日建成的,AISecOps技术能力的构建也不能简单的复制其他业务的经验就能一蹴而就。实际上,当今最火热最成熟的人工智能技术,应用场景铺的面非常广,但是应用深度却显不足。类似智能语音服务、像识别这类服务,是典型的智能化场景,却也只限制于较为低层次的感知层面的任务。在任何自动化过程中需要关键任务决策的,安全、经济、政治、甚至生命攸关的技术场景,如军事、金融、医疗、自动驾驶、法律判决等等,当前的人工智能技术仍难以有效胜任,只能应对场景中的部分问题,距离高度的任务自动化相去甚远。网络安全运营正是此类场景之可以说,当前智能化技术本身的不成熟,难以赢得人的信任,成为限制其在许多场景下深入应用的关键问题。本文将分别从可信安全智能技术体系和AISecOps技术生态的构建两个方面,展望安全运营技术智能化发展的未来。
构建可信任安全智能技术体系
无论如何,打造更可信任的人工智能,弥补人在处理海量数据过程中的先天不足,打造可信的智能“战友”,始终都是我们的终极追求。人工智能技术在网络安全中的应用,一方面,可以“直接拿来”,应用到网络安全数据分析的非核心场景和流程上,辅助安全工作,如使用自然语言处理技术分析威胁情报或者构建专家系统的对话机器人;使用成熟的像处理技术检测恶意片、视频等等;另一方面,需要“优化打造”,构建针对威胁检测、评估、关联、响应等阶段的核心安全智能。如32所示,从构建技术信任的角度,以升关键安全能力自动化水平为目标,可信任的安全智能体须具备满足以下核心技术要素的要求,包括预测性能能够应高度动态的网络环境和攻击场景,模型算法需透明可解释、鲁棒安全、保护隐私,智能技术的执行过程和结果需合法合规、可审计,并在决策执行中满足社会道德约束。以上多个技术要素,互为补充又相互依赖,需要在设计之初充分考虑。正如我们更倾向选择能力强、善于沟通、抗压能力强、高尚守法的人作战友,具备以上技术要素的机器智能更能够获取人的信任,并胜任高级别的安全运营自动化任务。
在可信任安全智能体系的探索过程中,需要充分融合可解释人工智能XAI、隐私保护技术、挖掘与分析、智能决策系统、风险评估、人机交互等多学科、多领域智能化技术能力,为安全运营的感知、认知、决策和行动多阶段的任务赋能。
文章为作者独立观点,不代表观点