검색 기능은 준비 중입니다.
검색 기능은 준비 중입니다.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

A Learning Algorithm with Activation Function Manipulation for Fault Tolerant Neural Networks 내결함성 신경망을 위한 활성화 함수 조작을 사용한 학습 알고리즘

Naotake KAMIURA, Yasuyuki TANIGUCHI, Yutaka HATA, Nobuyuki MATSUI

  • 조회수

    0

  • 이것을 인용

요약 :

본 논문에서는 뉴런의 시그모이드 활성화 함수의 기울기를 조작하여 피드포워드 신경망(줄여서 NN)의 내결함성을 향상시키는 학습 알고리즘을 제안합니다. 연결 링크의 0에서 멈춤 및 1에서 멈춤 오류를 가정합니다. 출력 레이어의 경우 내결함성을 향상시키기 위해 상대적으로 완만한 기울기를 갖는 기능을 사용합니다. 히든 레이어의 내결함성을 향상시키기 위해 수렴 후 함수의 기울기를 가파르게 만듭니다. 문자 인식 문제에 대한 실험 결과는 우리의 NN이 오류 주입, 강제 가중치 제한 및 각 가중치와 출력 오류의 관련성 계산을 사용하는 알고리즘으로 훈련된 다른 NN보다 내결함성, 학습 주기 및 학습 시간이 우수하다는 것을 보여줍니다. 게다가 우리 알고리즘에 통합된 그래디언트 조작은 일반화 능력을 결코 손상시키지 않습니다.

발행
IEICE TRANSACTIONS on Information Vol.E84-D No.7 pp.899-905
발행일
2001/07/01
공개일
온라인 ISSN
DOI
원고의 종류
PAPER
범주
결함 허용

작성자

키워드