RepAct:革新边缘计算的轻量级神经网络自适应激活函数
摘要
本文介绍了一种名为RepAct(可重参数化的自适应激活函数)的创新技术,旨在解决边缘计算中轻量级神经网络在有限计算资源下的推理和理解能力提升问题。RepAct通过采用多分支激活函数结构,结合可学习的自适应权重,有效地利用模型参数容量,增强轻量级网络的特征提取能力。该方法在图像分类、目标检测和语义分割等多个任务中进行了验证,显著提高了模型性能,尤其是在MobileNetV3-Small网络中,ImageNet100数据集上的Top-1准确率提升了7.92%。RepAct的设计不仅考虑了计算效率,还通过训练时的多分支结构和推理时的单分支结构,实现了模型性能与推理速度的平衡。
Read more...








