在一个日益互联和智能的世界中，传感器收集和共享大量数据以帮助人们做出决策。无论是持续监控能源使用的智能电网，还是试图追踪健康状况的人们，人们都会以难以破译的方式接收到越来越多的数据。

华盛顿州立大学的一组研究人员最近开发了一种对此类复杂传感器数据进行统计分析的方法，以便做出基于数据的决策的计算机算法更具弹性，并且能够更好地应对小错误。这项工作在许多领域都有应用，包括移动健康、智能家居、电网和农业。他们最近在圣地亚哥举行的2022年计算机辅助设计国际会议上展示了他们的工作。

“这是机器学习系统安全领域的一项重要而新颖的贡献，”领导这项工作的Huie-RogersEndowed计算机科学讲座副教授JanaDoppa说。

机器学习算法越来越多地用于许多应用，例如智能电网管理或智能农业。因此，例如，他们可能会从农田中的传感器和气象仪器收集数据，以学习和预测最佳浇水时间。为许多智能应用程序收集的数据以时间序列的形式出现，这是一个随时间跟踪样本并提供一系列时间戳数据点的数据集。

不幸的是，虽然计算机整天收集信息并吐出这些时间序列线和图表，但人们并不适合轻松阅读和理解它们。更重要的是，他们可能会错过一些小而重要的更改——即使是恶意更改。

“人类很难理解这些类型的时间序列数据，”过去三年一直在研究这个问题的电气工程与计算机科学学院的研究生TahaBelkhouja说。“如果我们在这个时间戳序列上引入一个小的扰动，那么你就不会知道我们是否真的做了扰动，以及那个读数是否正确。”

Doppa说，随着机器学习被构建到更多系统中，这些系统的安全性一直是一个未被充分研究的问题。当攻击者获得对智能传感器的访问权，然后以观察数据的人不会注意到的方式在数据中引起小的扰动时，就会发生对抗性攻击。扰动可能导致预测和决策过程的失败。

“从可解释性的角度来看，这是一个挑战，这意味着对于想要破坏其中一些基础设施的对手来说，这实际上是一个巨大的优势，”他说。“你无法注意到什么是对的，什么是错的。”

在他们的工作中，华盛顿州立大学的研究人员在他们的机器学习算法中引入了一个安全层，用于寻找潜在的干扰并确定它们发生的统计可能性，从而为系统提供弹性并防止重大故障。研究人员使用可穿戴的健康监测设备，使用他们的算法自动解释现实世界的传感器数据干扰，与只能处理干净数据的标准机器学习算法相比，其准确性提高了50%。

由于该算法着眼于场景的统计可能性，因此与必须在事后重新校准的传统算法相比，WSU团队还节省了计算能量。实际上，节能将转化为对设备电池的需求减少。

除了Belkhouja和Doppa，该项目的研究人员还包括电气工程与计算机科学学院的助理教授GanapatiBhat和YanYan，以及研究生DinaHussein。

“解决这个复杂的问题需要多个领域的专业知识，所有项目团队成员都做出了协同贡献，”Doppa说。