shortcut connection

絵や写真を見てそれが何かを当てる人工知能の分野では、近年目覚ましい発展が見られています。その進歩を支える技術の一つに、畳み込みニューラルネットワークと呼ばれるものがあります。これは、人間の脳の仕組みを真似た情報処理のしくみで、層と呼ばれる部分を何層も重ねることで、複雑な形や模様を捉えることができます。層を深くすればするほど、より細かい特徴を捉え、認識の正確さを高めることができると考えられてきました。しかし、ただ層を重ねるだけでは、学習がうまく進まないという問題がありました。深い層に情報が届くまでに、だんだん薄れて消えてしまう、まるで遠くの音が聞こえなくなるような現象が起きるためです。これを勾配消失問題と呼びます。 この問題を解決するために、二〇一五年にマイクロソフト研究所のカイミン・ヒー氏によって、残差接続と呼ばれる新しい方法が考案されました。これは、幾つかの層を飛び越えて、手前の層からの情報を直接奥の層に伝える経路を作るという画期的な仕組みです。奥の層へは、飛び越えてきた情報と、幾つかの層を通ってきた情報の両方が届きます。これにより、層を深くしても情報が薄れて消えてしまうことを防ぎ、学習をうまく進めることができます。残差接続を導入したニューラルネットワークは、残差ネットワークと呼ばれ、画像認識の分野に大きな革新をもたらしました。残差ネットワークは、層を深くしても学習が安定し、高い認識精度を達成できるため、現在では様々な画像認識の課題に応用されています。まさに、人工知能の分野における、重要な技術の一つと言えるでしょう。