TinyML 系统的功耗与性能特性分析
文章背景与核心概要
随着边缘端机器学习（ML）需求的爆炸式增长，TinyML 系统在资源受限的微控制器（MCU）上执行轻量级推理扮演着越来越重要的角色。然而，目前业界缺乏对这类系统全面的定量分析。本文针对神经网络模型、软件库、操作系统和硬件架构的多样化组合，对各种 TinyML 应用进行了系统性的性能和功耗特征分析。
研究的核心聚焦于多层抽象带来的性能与能耗开销——这些抽象层虽然提升了开发者的可编程性，却往往以牺牲效率为代价。为此，研究团队提出了一种用于评估不同抽象层开销的模型，并为最小化这些开销提出了切实可行的优化建议。该研究成果能够有效指导设计人员在边缘设备上进行神经架构搜索（NAS）以及 CNN 推理的优化。
摘要 (Abstract)
TinyML 系统使得在边缘端进行机器学习（ML）推理成为可能。然而，目前对这类系统的定量分析却非常匮乏。本文对微控制器（MCU）上多样化的 TinyML 应用进行了系统性的性能和功耗特征分析，涵盖了神经网络模型、软件库、操作系统以及硬件架构。我们重点关注了多层抽象所带来的影响，这些抽象层在提高可编程性的同时，往往会牺牲性能和能源效率。我们提出了一种用于估算不同抽象层开销的模型，并就如何将这些开销降到最低提出了建议。我们的研究结果可以帮助设计人员在边缘设备上优化神经架构搜索（NAS）与 CNN 推理。
TinyML systems are enabling machine learning (ML) inference at the edge. However, there is little quantitative analysis of such systems. This paper presents a systematic performance and power characterization of diverse TinyML applications on microcontrollers (MCUs), spanning neural network models, software libraries, operating systems, and hardware architectures. We focus on the impact of the multiple layers of abstraction that provide higher programmability at the expense of performance and energy efficiency. We propose a model to estimate the costs of different abstraction layers and make recommendations for minimizing those costs. Our findings can help designers with Neural Architecture Search (NAS) and CNN inference optimization on edge devices.
论文详情 (Paper Details)
- 作者： Yujie Zhang, Dhananjaya Wijerathne, Zhaoying Li, Tulika Mitra
- 发表于： IEEE 国际计算机设计会议 (ICCD), 2022 年会议论文集
- 提交日期： 2026 年 8 月 21 日
- 一级主题： 机器学习 (cs.LG)
- 二级主题： 人工智能 (cs.AI)
- DOI： 10.48550/arXiv.2608.21646
- 相关 DOI： 10.1109/ICCD56317.2022.00099
- Authors: Yujie Zhang, Dhananjaya Wijerathne, Zhaoying Li, Tulika Mitra
- Published In: Proceedings of the IEEE International Conference on Computer Design (ICCD), 2022
- Submission Date: 21 August 2026
- Primary Subject: Machine Learning (cs.LG)
- Secondary Subject: Artificial Intelligence (cs.AI)
- DOI: 10.48550/arXiv.2608.21646
- Related DOI: 10.1109/ICCD56317.2022.00099