オチアイ　ケイヒロ   Ochiai Keihiro   落合　慶広    所属   情報経営イノベーション専門職大学  情報経営イノベーション学部 情報経営イノベーション学科    職種   准教授
言語種別	日本語
発行・発表の年月	1994/06/15
形態種別	研究論文（学術雑誌）
査読	査読あり
標題	ニューラルネットにおける学習率の新しい更新則 －Delta -Bar- Delta - Bar則－
執筆形態	共著
掲載誌名	情報処理学会論文誌
掲載区分	国内
出版社・発行元	情報処理学会
巻・号・頁	35(6),1081-1090頁
総ページ数	10
担当範囲	全て
担当区分	筆頭著者
著者・共著者	戸田 尚宏 , 臼井 支朗
概要	ニューラルネット学習の加速化法として知られるJacobs法の収束の遠さは、学習率の更新則：DeIta-Bar-Delta則（DBD　則）に含まれる増減係数に依存しており、これらを適切に調整しなけれぱ十分な加速効果が得られない。しかしながら、この問題の原因等については一切明らかにされていない。本論文では収束が遅くなる原因を考察し、DBD則と慣性項を併用すると、評価関数曲面の谷においてDBD則による学習率の更新が適切に行われず、重みの振動を抑制できなくなることを明らかにする。次に、この問題点を解決した新しい学習率の更新則：Delta-Bar-DeIta-Bar則（DBDB則）を提案する。数値実験より、DBDB則を用いると、学習率の増減率を調整しなくても、最も速く収束する場合と同程度の速さで収束することを示す。
ISSN	18827764
PermalinkURL	http://id.nii.ac.jp/1001/00014208/