学習 DenseNetとは?仕組み・メリット・ResNetとの違いをわかりやすく解説
濃密連結網(デンスネット)は、画像の判別などで高い正答率を誇る、神経網の一種です。この網は、層と層の結びつき方に特徴があり、従来の網よりもたくさんの結びつきを持つことで、情報のやり取りを滑らかにしています。濃密連結網は、残差網(レズネット)という先行の網を改良したものです。残差網は層を飛び越える結びつきを導入することで、勾配消失問題という、学習の停滞を引き起こす問題に対処していました。具体的には、残差網では、ある層の出力が、後の層の入力にそのまま加えられるという仕組みでした。これにより、学習の過程で重要な情報が薄まってしまうのを防ぎ、深い網でもうまく学習できるようになりました。濃密連結網は残差網の考え方をさらに発展させました。残差網では特定の層を飛び越える結びつきでしたが、濃密連結網では全ての層を密に繋いでいます。つまり、ある層の出力が、それ以降の全ての層の入力に直接加えられるのです。このように、全ての層が互いに直接影響を及ぼし合うことで、情報の伝達がより効果的になり、残差網よりも少ない層数で高い正答率を達成することが可能となりました。また、この密な繋がりは、特徴量の再利用を促進します。前の層で抽出された特徴が、後の層でも有効に活用されるため、計算の無駄を省き、学習の効率を高める効果も期待できます。濃密連結網は画像の判別以外にも、物体検出や画像生成など、様々な分野で応用されており、今後の発展が期待される技術です。
