バーニーおじさんのルール

機械学習の仕組みを学ぶ中で、良い予測結果を得るにはどれくらいの量の学習データが必要なのかは、誰もが疑問に思う点です。少なすぎると、まるで試験前に教科書の一部だけを丸暗記した生徒のように、学習データの特徴に固執しすぎて、新しい問題に対応できなくなってしまう「過学習」という状態に陥ります。逆に、データが多すぎると、学習に膨大な時間がかかるだけでなく、モデルが複雑になりすぎて、まるで巨大な迷路に迷い込んだように、理解や解釈が難しくなることもあります。 このような問題に対処するために、経験に基づいた指針として「バーニーおじさんのルール」というものが広く知られています。これは、学習に必要なデータ量は、説明変数（モデルの持つ調整可能な要素の数）の10倍必要であるというシンプルなルールです。例えば、家の価格を予測するモデルで、家の広さ、築年数、駅からの距離など10個の要素を考慮する場合、このルールに従うと、少なくとも100件分の家のデータが必要となります。 もちろん、このルールはあくまでも目安であり、データの質や扱う問題の複雑さによって、必要なデータ量は変化します。質の高いデータであれば、より少ないデータで済む場合もありますし、複雑な問題であれば、より多くのデータが必要となるでしょう。まるで料理を作るように、材料の質やレシピの複雑さによって必要な材料の量が変わってくるのと同じです。しかし、データを集める計画を立てる際には、この「バーニーおじさんのルール」を最初の目安として考えておくと、スムーズに進めることができます。これは、料理を始める前に、必要な材料を大まかに把握しておくのと同じように、データ収集の第一歩として役立つでしょう。