• 締切済み

ニューラルネットワークの「重み」について

「ニューラルネットワークの重みの初期値によって、学習の結果は変わることはないが、学習の進み方や速さには影響が出る」という話を聞きましたが、この知識は正しいでしょうか? (私は重みの初期値はニューラルネットワークの学習の結果にも進み方・速さにも影響があると思っているのですがいかがでしょうか?)

みんなの回答

  • SPROCKETER
  • ベストアンサー率26% (2125/7983)
回答No.1

 ニューラルネットワーク(神経網)という概念は、学習結果に重みを付けて、繰り返し学習した事象は優先的に扱う事で習熟度や処理速度が速くなるように考えられています。  デジタルコンピュータでも同じ事は出来ます。キャッシュがそうで、メモリー上にあるデータを一度読み込むと、キャッシュにデータが残り、2回目以降は同じキャッシュのデータを読み取る事で、アクセス速度を10倍ぐらい高速に出来ます。  他にも、ソフトウェア上の一時キャッシュなどがそうで、アクセス数が多いデータほどキャッシュバッファの先頭に置く事で、読み取り速度が速くなるように作られています。  ニューラルネットワークも同じ概念で考えられているわけで、元を正せば、人間の記憶構造が繰り返し学習するほど記憶が完全になって行き、記憶の追加や補強も円滑に進む学習効果があるのを模倣したものです。  もっとも、現在のニューラルネットワークは人間の海馬のような短周期記憶の模倣までは出来ているようですが、長周期記憶のように膨大なデータ量から的確な情報を高速で読み取る技術は超並列計算が可能な量子コンピュータが成功しないと難しいでしょうね。

R958XX
質問者

補足

ご回答ありがとうございます。 ということは、重みが直接影響するのは学習速度であって、学習結果(精度)への影響は間接的ということでしょうか?