如今，在边缘小型设备上运行高效人工智能(AI)的需求正在迅速增长。传统上，边缘设备需将海量数据与云端进行收发交互。在智能手机和物联网(IoT)设备中，未来的边缘AI必须运行在使用更小电池供电的微处理器和微控制器上。这样可以减少与云的往返通信，还能够解决延迟问题。
可行的解决方案是在边缘利用TinyML技术。这里，可能让读者惊讶的是模拟在该技术中所扮演的角色。
图1：显示边缘侧机器学习的使用以及广泛的TinyML生态系统即服务。资料来源：MDPI
AI涉及使用机器学习(ML)和深度学习等技术从数据中获取知识的设备和系统。TinyML涉及将复杂的AI算法构建到设备或传感器的硬件中。通过这种集成，因为省去了与云的交互，数据分析所需的能量更少。另外，由于没有数据传输，外部攻击和安全漏洞也减少了。
采用TinyML模型时，只有模型参数才被发送到云端进行处理。名列前茅次学习在服务器上进行，而更具体的学习则在本地完成。
微型机器学习或TinyML包括能够完成设备传感器数据分析的硬件、算法和软件。功耗极低(毫瓦级或更低)，并支持常开机场景和电池供电设备。
现在，看看如何为边缘TinyML技术添加神经形态模拟信号处理(NASP)。
神经形态计算是指系统单元在硬件和软件上模拟人脑和神经系统，从而实现更快的计算速度和更低的功耗。就像大脑一样，可并行处理许多操作。
2022年4月，POLYN发布了NeuroSense，这是一种专有的神经形态芯片。神经形态模拟信号处理器(NASP)器件被设计作为实时边缘传感器信号处理器。POLYN的NASP芯片利用模拟电路，其中神经元利用运算放大器来实现，而神经轴突则由薄膜电阻器来实现。POLYN声称，这是业界为数不多的神经形态模拟TinyML芯片，可直接紧贴传感器使用，可省掉模数转换器(ADC)。
这里，TinyML使用了一种称为嵌入式的技术，该技术允许人工智能计算直接在芯片上执行，而不是在云端或远程服务器上执行。该嵌入指的是将训练好的自动编码器神经网络建构在深层和隐层中。它们包含关于传感器输入数据及其用于传感器数据预处理的密集信息；将嘈杂的原始数据流减少了1000倍，使其适用于工业物联网(IIoT)用途。
因此，NASP芯片是解决功耗和计算延迟问题的TinyML的具体实现。
图2：利用传感器数据预处理中的嵌入，将噪声原始数据流减少了1000倍，使其适合工业物联网用途。资料来源：POLYN
值得注意的是，在这种环境下的数字实现，并不会将海量并行数据处理至最适于神经网络计算之所需。数字神经网络模型具有模拟神经元；它在数字处理器内核中使用标准的逐次连续数学运算。然而，传统处理器上的数字神经网络效率低下，尽管在过去二十年中，数字神经网络的实现取得了重大进展，但能耗问题一直没有得到解决。
图3：在数字神经网络实现中，功耗仍然是一个问题。资料来源：POLYN
通过构建人工神经系统、实现神经元和突触(synaps)，来传递模拟电路上的电信号，使这种神经形态模拟计算成功模拟了大脑的功能和效率。这就是为什么模拟神经形态芯片非常适合神经网络工作的原因。
这里，NASP方法简化了芯片布局。它结合了固定权重方法和固定芯片结构，类似于人类视觉神经和视网膜，以及负责对接收到的嵌入内容进行进一步分类的灵活功能。在混合概念中(参见图4)，固定神经网络的组合负责模式检测，并与用于模式解释的灵活算法相结合。
图4：使用NASP，大多数负责原始数据预处理的神经网络层在训练阶段后保持不变，只有在接收新数据和重新训练时方才更新。来源：POLYN
NASP混合核心概念的基本部分包括一个具有超低功耗和低延迟、并生成内嵌的固定神经形态模拟核，以及一个用于最终分类的非常灵活的数字内核。为解决功耗和计算延迟难题，该解决方案分为固定和灵活两部分。固定部分是模拟的，只有基于嵌入的相对少量的输出才被发送到灵活数字处理部分进行分析。
POLYN Technology和Edge Impulse的联手利用NASP，使得设计工程师能够开发用于传感器级一维信号处理的专用应用芯片。目标是加速ML在边缘的利用。
图5：POLYN的神经形态模拟信号处理器(NASP)模仿人脑感知和学习的方式。来源：POLYN
Edge Impulse推出了其机器学习软件，实现了更智能的边缘产品，并提供了强大的自动化能力，且代码量极小。该公司声称，其解决方案使创建重要的数据集以及快速开发高级ML算法和行业特定解决方案变得更容易，只需几周，而不是通常的几年。
POLYN和Edge Impulse最初专注于听力设备，在任意环境中利用POLYN的语音检测和语音提取，功耗可低至150uW，可用于各种助听器和助听器产品的设计、还有耳塞和包括可穿戴设备在内的其他微型设备。
接下来还有工业物联网、机器人、自动视频安全、语音助手、自动校正、摄像头图像处理、自动驾驶、远程医疗、工业4.0和精准农业中的广泛用例。
本文为《电子工程专辑》2023年2月刊杂志文章，版权所有，禁止转载。点击申请免费杂志订阅
文章来自：https://www.eet-china.com/
