Adversarial Attacks and Mitigation for Anomaly Detectors of Cyber-Physical Systems

type

Post

status

Published

date

Oct 26, 2022

slug

essay-1

summary

Cyber-physical systems, industrial control systems, anomaly detectors, neural networks, adversarial attacks, testing defence mechanisms

1、abstract

提出了一种能同时规避CPS异常检测器和规则检查器的对抗性攻击。

最后探讨了是否能通过基于对抗性样本训练异常检测器的方法来减缓对抗攻击的影响。

2、introduction

2.1 对抗性攻击降低异常检测器准确度的原理：

假阳性（误报）：实际没病，却判断为有病

假阴性（漏报）：实际有病，却判断为没病

2.2 工作的创新点

针对生成对抗性攻击的三大挑战，创新了：

基于CPS传感器、执行器连续和离散域

同时欺骗异常检测器、规则检查器

2.3 工作的贡献

生成优越的对抗性攻击

已在两个现实设施试验床验证

能减少异常检测器约50%的准确度

3、background

3.1 CPS(信息物理融合系统）

3.2 SWaT(安全水处理）——CPS应用

传感器：读储罐的液位、压力、流量（连续）

执行器：阀门、泵控制储罐流入流出（离散）

PLC：观测系统状态、设置参数

系统状态（传感器、执行器的值）：

3.3 CPS攻击

传统攻击：攻击P-C传输过程中数据（改变传输过程中的值）

对抗攻击：攻击C的异常检测器（导致误分类）

3.4 攻击检测机制

规则检查器：指定一些不变的规则（某个值不能超过上限，若违背则说明系统异常，可能遭受攻击）

异常检测器：搭建基于时间序列的机器学习模型，预测正常的系统状态，与实际作比较，差异超过某个阈值则表示异常。

3.5 对抗性攻击运作机制

4、 methodology and design

4.1 RNN 预测器

输入：时间序列数据

输出：单个数据

某个传感器在不同时间戳上SH与SL值示例如下：

SH 是作用在X坐标轴上方

SL 是作用在X坐标轴下方

4.2 对抗性攻击

1、针对RNN 异常检测器生成对抗性样本：

分假阳性、假阴性两种场景添加噪声

2、针对规则检查器生成对抗性样本：

规则检查器主要对执行器敏感，因此采用GA算法枚举执行器状态的所有组合，找到能欺骗规则检查器的状态。

通过适应度函数选出候选状态。

5、对CPS系统的评估

回答了三个问题：

1、对抗性攻击是否对真实的CPS系统有效？是

2、对抗性攻击怎么修改原始数据同时欺骗异常检测器和规则检查器？GA

3、能不能基于对抗样本训练异常检测器设计一种防御机制？难