LLM 二つの情報源を繋ぐ:Source-Target Attention
異なる二つの情報のやり取りを助ける仕組みがあります。これは「二つの情報源の橋渡し」と呼ばれ、異なる種類の情報を結びつける大切な役割を担っています。具体的には、「問い合わせ」と「記憶」という二つの情報源を用います。「問い合わせ」は、今まさに必要としている情報の種類を示す役割で、「記憶」は、様々な情報が蓄えられている場所です。
この仕組みは、「問い合わせ」と「記憶」の関連度合いを計算することで機能します。「問い合わせ」の内容に関連性の高い「記憶」ほど、強く結びつけられます。そして、この結びつきの強さに基づいて、「記憶」から必要な情報だけが選び出されます。例えるなら、図書館で調べ物をする時のように、「問い合わせ」が本の探し方(例えば、「日本の歴史についての本」)、「記憶」が図書館にある全ての本だとします。この時、仕組みは探し方に合った本を選び出し、それ以外の本は無視するように働きます。
この仕組みは、特に二つの情報の種類が異なる場合に力を発揮します。例えば、外国語の文章を日本語に訳す作業を想像してみてください。この場合、「記憶」は外国語の文章、「問い合わせ」は日本語の訳文の一部です。仕組みは、訳文の一部を作るために必要な情報を、外国語の原文から探し出してくれます。
別の例として、質問に答える作業を考えてみましょう。ここでは、「記憶」は答えを探すための文章、「問い合わせ」は質問文です。仕組みは、質問に関連する情報を文章の中から探し出し、適切な答えを導き出すのに役立ちます。
このように、「二つの情報源の橋渡し」は、異なる種類の情報を結びつけることで、翻訳や質問応答といった様々な作業の質を高めるのに役立っています。まるで異なる言葉を話す人同士に通訳がいるように、この仕組みは二つの情報源の間を取り持つことで、スムーズな情報のやり取りを実現しているのです。
