データ分析の基礎：検定を理解する

データ分析の基礎：検定を理解する

検定とは何か

検定とは、統計学の分野で、ある仮説が正しいかをデータを使って確かめる方法です。私たちは日常生活の中で、色々な仮説を立てています。例えば、「新しいお茶を飲むと気持ちが落ち着く」とか「この方法で勉強すれば試験の点が上がる」といったものです。このような仮説が本当に正しいのか、それともたまたまそうなっただけなのかを調べるために、検定は役に立つ道具となります。

検定を行うには、まず最初に「帰無仮説」と呼ばれる仮説を立てます。これは、「新しいお茶を飲んでも、気持ちが落ち着く効果はない」のように、効果がない、変化がないといった仮説です。そして、集めたデータを使って、この帰無仮説が正しいと仮定した場合に、そのデータが得られる確率を計算します。この確率が非常に低い場合、私たちは帰無仮説を棄却し、「新しいお茶には気持ちを落ち着かせる効果がある」という結論を導き出します。

検定は、医療や経済、販売促進など、様々な分野で使われています。例えば、新薬の効果を確かめる臨床試験では、検定を使って新薬に本当に効果があるのかを検証します。また、新しい広告の効果を測定する場合にも、検定を使って広告を出す前と後で売り上げに変化があったのかを調べます。このように、データに基づいて客観的に判断することで、より確実な結論を導き出すことができ、適切な行動を選ぶ助けとなります。

検定には様々な種類があり、それぞれの手法には得意な分野や不得意な分野、そして使用する際の注意点があります。適切な検定方法を選ぶことで、より正確で信頼性の高い結果を得ることが可能になります。そのため、検定を行う際には、それぞれの方法の特徴を理解し、目的に合った方法を選択することが重要です。

検定の手順

検定は、ある仮説が正しいかどうかをデータに基づいて判断するための統計的な手法です。いくつかの手順を踏むことで、客観的な結論を導き出すことができます。まず、検証したい内容を明確な仮説として立てます。これを帰無仮説と呼び、一般的には「効果がない」「差がない」といった否定的な形をとります。例えば、新しい肥料の効果を検証したい場合は、「この肥料には効果がない」という帰無仮説を立てます。

次に、帰無仮説が正しいと仮定したもとで、実際に得られたデータが発生する確率を計算します。この確率を、p値と呼びます。もしp値が非常に小さい場合、つまり帰無仮説のもとで観測データが得られる確率が極めて低い場合は、帰無仮説が正しいという仮定に無理があると判断します。具体的には、あらかじめ設定した有意水準（一般的には５％）よりもp値が小さい場合、帰無仮説を棄却します。これは、まれな現象が起きたと考えるよりも、そもそも仮説が間違っていたと考える方が妥当だと判断するということです。

例えば、新しい肥料の効果を検証する際に、肥料を使った田んぼと使わなかった田んぼで収穫量を比較します。もし肥料を使った田んぼの収穫量が著しく高く、その結果に対応するp値が有意水準よりも小さければ、「肥料には効果がない」という帰無仮説は棄却されます。そして、帰無仮説とは反対の内容である「肥料には効果がある」という対立仮説を採択します。

このように、検定は背理法に基づいて行われます。最初に否定したい仮説（帰無仮説）を立て、データに基づいてその仮説が矛盾していることを示すことで、最終的に肯定したい仮説（対立仮説）を支持する結論を導き出します。この手順を踏むことで、思い込みや主観ではなく、客観的なデータに基づいて判断することができます。

背理法による検証

検証を行う際に、背理法という論理を用いる方法があります。この背理法は、ある仮説が正しいと仮定し、そこから矛盾点を導き出すことで、最初の仮説が間違っていると証明する手法です。例えば、「空は青い」という仮説を覆したい場合、「空は青い」と一旦仮定します。そして、そこから「空は緑」という矛盾点を導き出すことができれば、「空は青い」という最初の仮定が間違っていたと結論付けられます。　少し複雑に聞こえるかもしれませんが、実際には私たちの日常でも使われている考え方です。

統計的な検証、いわゆる検定でも、この背理法が活用されています。検定では「帰無仮説」と呼ばれる、証明したい仮説とは反対の仮説を立てます。そして、この帰無仮説が正しいと仮定した上で、実際に得られたデータがどれくらい起こりにくいかを計算します。もし、帰無仮説が正しいと仮定したにも関わらず、得られたデータが滅多に起こらないような、非常に珍しいものである場合、私たちは帰無仮説を棄却します。これは、帰無仮説が正しいと仮定したことで矛盾が生じた、つまり、現実のデータと合わないという矛盾が生じたため、帰無仮説は間違っていると判断するということです。

具体例を挙げると、あるコインが公平かどうかを検証したいとします。この時、帰無仮説は「コインは公平である」となります。そして、100回コインを投げた結果、95回表が出たとします。公平なコインであれば、表が出る確率は50%なので、95回も表が出る確率は非常に低くなります。このことから、帰無仮説である「コインは公平である」という仮定は現実の結果と矛盾するため、棄却され、「コインは公平ではない」と結論付けられます。このように、背理法を用いることで、直接証明するのが難しい仮説についても、検証を行うことができます。

推定との違い

統計の世界で大切な考え方である推定と検定。どちらもデータに基づいて母集団について考えるものですが、その目的は大きく異なります。推定は、いわばデータという手がかりをもとに、隠された母集団の姿を想像することです。例えば、あるお菓子の平均の重さを知りたいとします。すべてのお菓子の重さを一つ一つ測るのは大変なので、いくつかのお菓子を抜き出して重さを測り、その平均値から全体のお菓子の平均の重さを予測します。これが推定です。推定では、母集団の値をピンポイントで予測する点推定と、ある範囲内に収まると予測する区間推定という二つの方法があります。点推定は、まさに一点を射抜くように値を予測するのに対し、区間推定では「この範囲内に入っているだろう」というように幅を持たせて予測します。

一方、検定は、ある仮説が正しいかどうかをデータを使って検証する作業です。たとえば、「このお菓子の平均の重さは100グラムだ」という仮説を立てたとします。この仮説が正しいかどうかを判断するために、いくつかのお菓子を抜き出して重さを測り、そのデータから判断します。もし測ったお菓子の平均の重さが100グラムと大きく違っていたら、最初の仮説は疑わしいと考えられます。検定では、あらかじめ立てた仮説をデータに基づいて「棄却する」か「棄却しない」かを判断します。

まとめると、推定は未知の値を予測する作業であり、検定は仮説の真偽を検証する作業です。推定は「このお菓子の平均の重さはどれくらいだろう？」という問いに対して答えようとするのに対し、検定は「このお菓子の平均の重さは100グラムだという仮説は正しいだろうか？」という問いに対して答えようとするものです。どちらも統計学において重要な役割を果たしており、目的に合わせて使い分ける必要があります。

様々な検定方法

色々なことを確かめるための方法、つまり検定には様々な種類があります。目的やデータの特性に合わせて適切な方法を選ぶことが重要です。それぞれの手法について、詳しく見ていきましょう。

まず、二つの集団の平均値に違いがあるかを調べたい時に役立つのがt検定です。例えば、新しい肥料を使った場合とそうでない場合での作物の収穫量を比較する際に用いることができます。t検定は、二つの集団のデータが正規分布に従っているという前提があります。もし、この前提が満たされていない場合は、t検定ではなく他の検定方法を検討する必要があります。

次に、三つ以上の集団の平均値を比較したい場合は、分散分析を使います。例えば、異なる種類の肥料をそれぞれ使った場合の作物の収穫量に差があるかを調べたい時に用いることができます。分散分析も、それぞれの集団のデータが正規分布に従い、かつ分散が等しいという前提があります。

観測された値と、理論的に期待される値とのずれを調べたい場合は、カイ二乗検定を用います。例えば、サイコロを何度も振って、それぞれの目が均等な確率で出ているかを確かめたい時に、カイ二乗検定が役立ちます。カイ二乗検定は、データがカテゴリ分けされたものであるという特徴があります。

このように、検定には様々な種類があり、それぞれの手法には適用するための条件や計算方法が異なります。適切な検定方法を選ぶことで、データからより正確な結論を導き出すことができます。どの検定方法を用いるべきか迷った場合は、統計の専門家に相談することをお勧めします。

分布の適合度検定

集めた情報が、ある特定の形を持ったばらつき方をしているかどうかを確かめるために、適合度検定という方法を使います。この方法は、製品の寿命が、よく見られる釣鐘型のばらつき（正規分布）になっているかなどを調べる時に役立ちます。

例えば、ある工場で作られた電球の寿命を調べてみましょう。集めた寿命のデータが正規分布に従っているかどうかを知りたいとします。この時、コロモゴロフスミノルフ検定といった検定方法を利用できます。これは、集めたデータのばらつき方と、正規分布のような理想的なばらつき方とを比較するものです。

具体的には、電球の寿命データから、どれくらいの電球がどのくらいの期間で使えなくなったかを表す分布図を作ります。同時に、もし寿命が正規分布に従っているとしたら、どのような分布図になるのかを理論的に計算します。そして、この二つの分布図のずれ具合を調べます。

もし、二つの図がほとんど同じ形であれば、電球の寿命は正規分布に従っていると判断できます。逆に、二つの図の形が大きく異なっていれば、電球の寿命は正規分布には従っていないと判断します。このずれ具合は、計算によって数値として表されます。この数値が、あらかじめ決めた基準値よりも大きければ、ずれが大きいと判断するのです。

このようにして、適合度検定は、集めたデータが、想定した分布に従っているかどうかを客観的に判断するのに役立ちます。データの特性を理解することで、現象の背後にある仕組みを解明したり、より適切な予測モデルを作ったりすることに繋がります。例えば、電球の寿命の分布が分かれば、どのくらいの期間で交換すればよいかといった計画を立てるのに役立ちます。