Atrous畳み込みとは？穴あき畳み込みの仕組みと使いどころを解説

Atrous畳み込みとは？穴あき畳み込みの仕組みと使いどころを解説

Atrous畳み込みとは

Atrous畳み込みの「atrous」は、フランス語で「穴のある」という意味に由来します。深層学習では、畳み込みフィルターの要素間に穴が空いているように見えるため、この名前で呼ばれます。英語圏では dilated convolution と呼ばれることも多く、日本語の膨張畳み込みはこの表現に近い呼び方です。

考え方は単純です。3×3のフィルターを使う場合でも、入力画像上で参照する位置を隣接させず、1つ飛ばし、2つ飛ばしのように間隔を空けます。フィルター自体の学習パラメータは3×3のままですが、入力上で見る範囲は広がります。この「どれくらい間隔を空けるか」を表す値が dilation rate です。

dilation rate が1なら、通常の畳み込みと同じです。dilation rate が2ならフィルター要素の間に1マス分の隙間が入り、dilation rate が3なら2マス分の隙間が入ります。つまり、値が大きいほど受容野は広がりますが、参照する点は飛び飛びになります。

通常の畳み込みと何が違うのか

Atrous畳み込みを理解するうえで重要なのは、カーネルサイズと受容野を分けて考えることです。カーネルサイズは学習する重みの数に関わります。一方、受容野は出力の1点を計算するとき、入力のどの範囲を見ているかを表します。

通常の3×3畳み込みでは、出力の1点は入力の近い3×3領域を見ます。Atrous畳み込みでは、同じ3×3の重みでも、参照位置を離して配置できます。その結果、学習する重みの数は同じでも、出力の1点が参照する入力範囲は広くなります。

1次元で考えると、畳み込みのイメージは次のように表せます。

\(y[i] = \sum_k x[i + r \cdot k] w[k]\)

ここで \(x\) は入力、\(w\) はフィルターの重み、\(y\) は出力、\(r\) は dilation rate です。\(r=1\) なら隣接した入力を参照し、\(r=2\) なら1つおきの入力を参照します。式として見ると、入力の参照位置だけが \(r\) 倍に広がっていることが分かります。

受容野を広げながら画像サイズを保てる理由

画像認識のネットワークでは、畳み込みやプーリング、ストライド付き畳み込みを重ねることで特徴を抽出します。これらの処理は広い範囲を見られるようにする一方で、特徴マップの解像度を下げることがあります。分類のように画像全体のラベルを出すタスクでは問題になりにくい場合もありますが、画素ごとに結果を出す処理では細かな位置情報が失われやすくなります。

Atrous畳み込みは、特徴マップをむやみに小さくせずに広い受容野を得たいときに役立ちます。フィルターを飛び飛びに当てるため、出力の空間サイズを保ったまま、遠い位置の特徴を計算に含められます。これは、画像の細部を残しながら周辺の文脈も見る必要がある処理に向いています。

たとえば家の画像から窓やドアの領域を見つける場合、窓枠やドアノブのような細部だけでなく、それが建物の一部であるという全体の文脈も重要です。特徴マップを小さくしすぎると細部が曖昧になりますが、Atrous畳み込みなら、位置の細かさを保ちつつ広い範囲を参照できます。

この性質は、受容野を広げる別の方法と比べても特徴的です。大きなカーネルを使えば受容野は広がりますが、重みの数と計算量が増えます。プーリングやストライドを使えば広い文脈を得やすくなりますが、解像度は下がります。Atrous畳み込みはその中間にあり、パラメータ数を抑えながら広い文脈を扱えるのが強みです。

どんな場面で使われるのか

Atrous畳み込みは、画像のどこに何があるかを細かく扱うタスクでよく使われます。代表例はセマンティックセグメンテーションです。セグメンテーションでは、画像全体に対して「道路」「人」「建物」「背景」のようなラベルを画素単位で付けます。ここでは、対象の輪郭を保つ細かい情報と、周囲の状況を読む広い文脈の両方が必要です。

物体検出でも役立ちます。画像内には大きな車と小さな自転車のように、サイズの異なる物体が同時に現れます。dilation rate を調整すると、異なるスケールの特徴を扱いやすくなり、小さな対象と大きな対象を見落としにくくできます。

画像生成や画像復元でも、広い範囲の情報を使うことは品質に関わります。近くの画素だけを見ると自然な構造を作りにくい場面でも、広い文脈を参照できれば、全体として整った画像を作りやすくなります。医療画像解析、衛星画像解析、製造業の外観検査、自動運転の環境認識などでも、細部と全体の両方を扱う必要があるため、Atrous畳み込みの考え方が利用されます。

実装するときの考え方

実装面では、Atrous畳み込みは特別なネットワークを一から作るというより、既存の畳み込み層に dilation rate を指定して使うものです。多くの深層学習ライブラリでは、畳み込み層の引数として dilation や dilation_rate を指定できます。基本的には、カーネルサイズ、ストライド、パディング、dilation rate の組み合わせで出力サイズと受容野を調整します。

初学者が混乱しやすいのは、dilation と stride の違いです。stride はフィルターを動かす歩幅で、値を大きくすると出力サイズが小さくなりやすいです。一方、dilation はフィルター内部の要素間隔で、受容野を広げるために使います。どちらも「間隔」に関係しますが、動かす間隔なのか、フィルター内の間隔なのかが違います。

実務では、1つの dilation rate だけでなく複数の rate を組み合わせることもあります。小さい rate は局所的な特徴を拾いやすく、大きい rate は広い文脈を拾いやすいためです。これにより、細部と全体の両方を扱うマルチスケールな特徴抽出ができます。

注意点と関連技術との違い

Atrous畳み込みは便利ですが、dilation rate を大きくすれば常に良いわけではありません。参照点が飛び飛びになるため、近くの情報が抜けやすくなることがあります。場合によっては、格子状のパターンが出る、細かい境界が不安定になる、局所的な質感を捉えにくくなるといった問題も起こります。

そのため、通常の畳み込み、プーリング、スキップ接続、アップサンプリング、注意機構などと組み合わせて使うことが一般的です。Atrous畳み込みは「画像を小さくしない万能な置き換え」ではなく、解像度、受容野、計算量のバランスを取るための選択肢として理解すると実装判断がしやすくなります。

今後の展望

Atrous畳み込みは、単独の技術としてだけでなく、複数スケールの特徴抽出や注意機構と組み合わせる形で発展してきました。画像内の対象は大きさも形もさまざまなので、1つの受容野だけで処理するより、複数の視野を使い分ける方が安定しやすいからです。

今後も、医療画像の病変検出、衛星画像の土地利用判定、自動運転の周辺認識、製造ラインの外観検査など、細部の位置と広い文脈の両方が重要な分野で活用が続くと考えられます。一方で、Transformer系のモデルや注意機構の普及により、広い文脈を扱う方法は多様化しています。Atrous畳み込みはそれらと競合するだけでなく、軽量で扱いやすい畳み込みベースの部品として組み合わされる場面もあります。

まとめ

Atrous畳み込みは、フィルター要素の間隔を空けて畳み込みを行うことで、カーネルのパラメータ数を大きく増やさずに受容野を広げる手法です。穴あき畳み込み、膨張畳み込み、dilated convolution とも呼ばれます。

特に、画像サイズを保ちながら広い文脈を見たいセマンティックセグメンテーションや物体検出で有効です。ただし、dilation rate を大きくしすぎると局所情報が抜けることもあるため、通常の畳み込みや複数スケール処理と組み合わせて使うのが基本です。初心者はまず、dilation rate が「フィルター内部の間隔」を決める値であり、stride とは役割が違う点を押さえると理解しやすくなります。

更新履歴