Resource-Efficient Neural Networks for Embedded Systems
标题(Title)
Resource-Efficient Neural Networks for Embedded Systems
基于嵌入式系统的高效神经网络,看标题应该是在嵌入式系统资源受限的情况下,部署合适的神经网络。
Submitted 8/18; Revised 12/23; Published 2/24
摘要(Abstract)
深度学习,特别是当下的大模型对资源的消耗是巨大的。而嵌入式设备天然又具备资源受限的属性,那么如何平衡性能和资源消耗就成了嵌入式设备利用人工智能成果的一项重大挑战。显然未来当AI发展到一定程度,一定时需要大规模部署到嵌入式设备中,让其更好的服务于人类社会的,由此看来,此项研究意义重大。
本文是综述,主要研究了目前DNN模型压缩的方法,以及在一些硬件上的兼容情况,详细说明如下;