• Complex
  • Title
  • Keyword
  • Abstract
  • Scholars
  • Journal
  • ISSN
  • Conference
成果搜索

author:

顾明珠 (顾明珠.) [1] | 明瑞成 (明瑞成.) [2] | 邱创一 (邱创一.) [3] | 王新文 (王新文.) [4]

Abstract:

为了能将庞大的深度学习模型压缩后部署到算力和存储能力有限的设备中时尽可能减小精度损失,对知识蒸馏模型压缩方法进行研究,提出了一种改进后带筛选的多教师模型知识蒸馏压缩算法.利用多教师模型的集成优势,以各教师模型的预测交叉熵为筛选的量化标准筛选出表现更好的教师模型对学生进行指导,并让学生模型从教师模型的特征层开始提取信息,同时让表现更好的教师模型在指导中更具有话语权.在CIFAR100数据集上的VGG13等分类模型实验结果表明,与其他压缩算法相比在最终得到的学生模型大小相同的情况下,精度上有着更好的表现.

Keyword:

交叉熵 多教师模型 模型压缩 特征层 知识蒸馏

Community:

  • [ 1 ] [王新文]福州大学先进制造学院,福建泉州362000;中国科学院海西研究院泉州装备制造研究中心,福建泉州362000
  • [ 2 ] [邱创一]福州大学先进制造学院,福建泉州362000;中国科学院海西研究院泉州装备制造研究中心,福建泉州362000
  • [ 3 ] [顾明珠]福州大学先进制造学院,福建泉州362000;中国科学院海西研究院泉州装备制造研究中心,福建泉州362000
  • [ 4 ] [明瑞成]中国科学院海西研究院泉州装备制造研究中心,福建泉州362000

Reprint 's Address:

Email:

Show more details

Related Keywords:

Source :

电子技术应用

ISSN: 0258-7998

CN: 11-2305/TN

Year: 2023

Issue: 8

Volume: 49

Page: 7-12

Cited Count:

WoS CC Cited Count: 0

SCOPUS Cited Count:

ESI Highly Cited Papers on the List: 0 Unfold All

WanFang Cited Count:

Chinese Cited Count:

30 Days PV: 3

Online/Total:128/10035147
Address:FZU Library(No.2 Xuyuan Road, Fuzhou, Fujian, PRC Post Code:350116) Contact Us:0591-22865326
Copyright:FZU Library Technical Support:Beijing Aegean Software Co., Ltd. 闽ICP备05005463号-1