검색 기능은 준비 중입니다.
검색 기능은 준비 중입니다.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Loss-Driven Channel Pruning of Convolutional Neural Networks 컨벌루션 신경망의 손실 기반 채널 가지치기

Xin LONG, Xiangrong ZENG, Chen CHEN, Huaxin XIAO, Maojun ZHANG

  • 조회수

    0

  • 이것을 인용

요약 :

CNN(컨벌루션 신경망)의 계산 비용과 저장 공간의 증가로 인해 최근 몇 년 동안 리소스가 제한된 장치에 대한 적용이 심각하게 방해를 받았습니다. 결과적으로 특정 방법으로 네트워크를 가속화해야 할 필요성이 임박했습니다. 본 논문에서는 CNN의 중복 채널을 제거하는 손실 기반 방법을 제안합니다. 스케일링 및 이동 요소와 관련된 Taylor 확장 기술을 사용하여 중요하지 않은 채널을 식별하고 고정된 백분위수 임계값으로 해당 채널을 정리합니다. 그렇게 함으로써 매개변수와 FLOP 소비가 적은 컴팩트한 네트워크를 얻을 수 있습니다. 실험 섹션에서는 VGG-19, DenseNet-40 및 ResNet-164를 포함한 여러 인기 있는 네트워크가 포함된 CIFAR 데이터 세트에서 제안된 방법을 평가하고 실험 결과는 제안된 방법이 성능 없이 70% 이상의 채널과 매개변수를 정리할 수 있음을 보여줍니다. 손실. 더욱이, 반복적 가지치기(iterative pruning)를 사용하여 보다 컴팩트한 네트워크를 얻을 수 있습니다.

발행
IEICE TRANSACTIONS on Information Vol.E103-D No.5 pp.1190-1194
발행일
2020/05/01
공개일
2020/02/17
온라인 ISSN
1745-1361
DOI
10.1587/transinf.2019EDL8200
원고의 종류
LETTER
범주
인공지능, 데이터마이닝

작성자

Xin LONG
  National University of Defense Technology
Xiangrong ZENG
  National University of Defense Technology
Chen CHEN
  National University of Defense Technology
Huaxin XIAO
  National University of Defense Technology
Maojun ZHANG
  National University of Defense Technology

키워드