검색 기능은 준비 중입니다.
검색 기능은 준비 중입니다.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

A Low-Cost Neural ODE with Depthwise Separable Convolution for Edge Domain Adaptation on FPGAs FPGA의 에지 도메인 적응을 위해 깊이 분리 가능한 컨볼루션이 있는 저비용 신경망 ODE

Hiroki KAWAKAMI, Hirohisa WATANABE, Keisuke SUGIURA, Hiroki MATSUTANI

  • 조회수

    2

  • 이것을 인용

요약 :

고성능 DNN(심층 신경망) 기반 시스템은 엣지 환경에서 수요가 높습니다. 높은 계산 복잡성으로 인해 계산 리소스에 대한 엄격한 제한이 있는 엣지 장치에 DNN을 배포하는 것은 어렵습니다. 본 논문에서는 최근 제안된 매개변수 감소 기법인 Neural ODE(Ordinary Differential Equation)와 DSC(Depthwise Separable Convolution)를 결합하여 dsODENet이라는 간결하면서도 매우 정확한 DNN 모델을 도출합니다. Neural ODE는 ResNet과 ODE 간의 유사성을 활용하고 여러 계층에서 대부분의 가중치 매개변수를 공유하므로 메모리 소비가 크게 줄어듭니다. 우리는 이미지 분류 데이터 세트의 실제 사용 사례로 dsODENet을 도메인 적응에 적용합니다. 우리는 또한 전처리 및 후처리 레이어를 제외한 모든 매개변수와 기능 맵을 온칩 메모리에 매핑할 수 있는 dsODENet을 위한 리소스 효율적인 FPGA 기반 설계를 제안합니다. Xilinx ZCU104 보드에 구현되며 도메인 적응 정확도, 추론 속도, FPGA 리소스 활용도 및 소프트웨어 대비 속도 향상 속도 측면에서 평가됩니다. 결과는 dsODENet이 기본 Neural ODE 구현과 비교하여 비슷하거나 약간 더 나은 도메인 적응 정확도를 달성하는 동시에 전처리 및 후처리 레이어가 없는 전체 매개변수 크기가 54.2%에서 79.8%로 감소했음을 보여줍니다. 우리의 FPGA 구현은 추론 속도를 23.8배 가속화합니다.

발행
IEICE TRANSACTIONS on Information Vol.E106-D No.7 pp.1186-1197
발행일
2023/07/01
공개일
2023/04/05
온라인 ISSN
1745-1361
DOI
10.1587/transinf.2022EDP7149
원고의 종류
PAPER
범주
컴퓨터 시스템

작성자

Hiroki KAWAKAMI
  Keio University
Hirohisa WATANABE
  Keio University
Keisuke SUGIURA
  Keio University
Hiroki MATSUTANI
  Keio University

키워드