嵌入式系统中的人工智能与网络安全

11 7 月, 2023

Home > 博客 > 嵌入式系统中的人工智能与网络安全

嵌入式系统中的人工智能与网络安全

自从人工智能诞生以来，它一直是科技行业工作人员需要思考的命题。人工智能是未来发展的焦点，体现了其所代表的潜力和提供的新可能性。

人工智能使新产品、服务和商业模式能够进入市场，并开创了数据分析的新经济。通过人工智能进行数据分析可以优化商业智能，帮助企业、个人以及智能设备做出更好的决策。

人工智能在许多不同的行业中产生了多重影响，例如汽车和移动、连接、智能城市甚至关键基础设施等领域。以自动驾驶行业为例，人工智能可以提高车辆的有效安全性。将人工智能作为车辆的附加安全功能，可以通过对车辆的全面控制或通过传感器进行先进的驾驶员辅助，降低潜在的事故风险。

基于硬件人工智能关键的应用，包括存在于智能和自动驾驶车辆中的电子控制单元（ECU），它有先进的驾驶辅助系统（ADAS），以及机器人控制单元或片上语音识别系统。这些人工智能应用的发展完全依赖于原始设备制造商（OEM），他们缺乏标准的保护配置文件或验证原则来保障人工智能预防网络威胁的稳健性。功能性安全准则是开发稳健的、以人工智能为中心的嵌入式系统，并以此为里程碑。安全挑战主要不在于人工智能硬件的检测率能力，而是在于人工智能本身的安全性。为了保护系统的完整性，综合的网络安全必须有能力防范所有可能的破坏性技术，例如物理攻击，其中故障注入攻击（FIA）可能会导致安全系统完整性问题。

嵌入式系统的安全性

由于在系统中发现的漏洞数量以及人工智能的普及，针对嵌入式人工智能系统的攻击也正在增加。安全性比以往任何时候都更加重要。

这些攻击可以分为三个主要类别：

对抗性输入：添加噪声或修改输入，使其被机器学习误分类或完全忽略。
数据污染：针对训练数据，其中一些样本被错误标记，使得模型学习到错误的目标并损害了其自身系统。
模型窃取：通过使用侵入性逆向工程来针对模型本身。

人工智能的威胁和漏洞

嵌入式人工智能已经开始在各种用例中得到应用，从数据采集到自动驾驶等各个领域。

在嵌入式人工智能产品中存在许多漏洞，因为数据、算法、模型架构以及部署的系统都可能成为攻击的目标。为了解决这个问题，引入了基于云的人工智能服务，但它们并不能完全保证安全性，因为在某些实时应用中，云网络连接可能不可靠，使系统容易受到攻击。因此，人工智能核心成为必要条件，同时也使得系统成为潜在攻击目标。

芯片或电路板上存在许多攻击目标。例如，攻击者可以修改嵌入式或边缘人工智能系统中的任何关键参数，这最终会导致系统发生故障；这些参数（如权重、偏置等）被称为嵌入式或边缘AI系统的关键安全参数。除了物理攻击外，攻击者还可以创建一对输入及其对应的人工智能系统响应，以推导出系统的功能度量，从而复制系统并创建可能破坏系统的对抗性输入。

最后，一些边缘人工智能应用在部署后会继续从实时数据中学习，以提高其预测能力。它们特别容易受到攻击，因为它们倾向于根据实时输入更新其检测参数，这使得攻击者更容易获取系统访问权限。

使用集成安全元件（iSE）用于保护OTT人工智能系统

iSE作为直接嵌入SoC中的敏感信息的保护层，用于保护数据的完整性，并确保信息只能被授权的用户或应用程序访问。在在OTT（Over The Top）人工智能系统中，最重要的是保护人工智能学习到的特征和模式。这些特征必须在安全的环境中学习，不能泄漏敏感信息。通过使用iSE，可以确保人工智能参数的安全存储，从而在安全环境中进行计算和检测，并与常规进程隔离开来。