頻度主義統計学

統計学における頻度主義（英: frequentism）とは、確率の定義（解釈）の一つで、試行回数を限りなく増やしたときの事象の頻度の極限値を、その事象の確率と定義する考え方である。この統計的確率は、試行の反復回数を増やすことで近似値として求められ、その値は個人の考え・主観によらない。この解釈は、実験科学や世論調査で起こる様々な統計的条件も考慮することができる。しかし、この頻度主義が全ての場合に有用とはいえず、賭博においては通常、プレーヤーが事前確率を知ることを必要としている。

頻度主義による確率解釈が生まれた背景には、それまで主流であった確率の古典的な定義での問題点がある。確率の古典的な定義は、サイコロ、コインなどの物理的対称性による等確率の原理に基づいて定義されていた。例えば、サイコロの古典的確率は、立方体の全ての面の物理的対称性を仮定することで求まる。この古典的な解釈は、物理的対称性を持たず推論が難しいあらゆる統計問題につまずくこととなった。

確率は、標本が無作為に選ばれる実験（試行）を対象とする^[1]。試行に対して起こりうる結果全体からなる集合は標本空間と呼ばれる。事象は、標本空間の特定の部分集合として定義されている。各事象は、起こるか起こらないかのどちらかの可能性しかない。事象の頻度は試行の繰り返しで測定・観測され、その頻度は事象の確率の尺度となる、というのが頻度主義による確率の解釈、概念である。

頻度主義では、試行回数を限りなく増やすと頻度が収束することを仮定している。したがって、統計的確率とは、事象の相対度数の極限値のことである^[2]。

統計学的確率は、確率の哲学的解釈のうちの一つである。この解釈は、現実の現象に対して考えられる「確率」の概念の全てを捉えているわけではない。この統計学的確率は、大数の法則により、確率論における確率の公理と矛盾せず、さらには古典的確率には反映されない、現実での誤差や変化の影響も加味、反映される。特にベイズ確率は、理論構築のための実験に明確な指針を与えている。この指針が有用であるかどうか、あるいは誤った解釈であるかどうかについては、論争の的となっている。特に、統計的確率が、推計統計学の唯一の根拠であると誤解されている場合が多い。例えば、p値に関する記事には、p値の意味に関する誤った解釈のリストが添付されており、論争の詳細は、統計的仮説検定に関する記事に記載されている。ジェフリーズ・リンドレーのパラドックスは、同じデータセットに適用された異なる解釈が、結果の「統計的有意性」について異なる結論をもたらすことを示している^[要出典]。

ウィリアム・フェラーは次のように述べている^[3]：

我々の筋道には、明日太陽が昇る確率を推測する余地はない。それを語る前に、我々の世界は「無数にある世界の中から無作為に1つの世界が選ばれる...」というような経過をおそらくたどっただろうという（理想化された）モデルに同意すべきである。このようなモデルの構築は小さな想像力で済むが、それでは面白くないし、意味がないと思うのである。

フェラーの発言は、別の確率解釈で日の出問題の解法を発表したラプラスを批判したものである。ラプラスは、天文学と確率論の専門知識に基づいて、出典を明示しかつ即座に免責事項を記したにもかかわらず、その後2世紀にわたって批判が続いた。

頻度主義の予見として考えられるものに、アリストテレスの『弁論術』^[4]での次の記述がある：

可能性が高いとは、ほとんどの場合に起こることである。the probable is that which for the most part happens^[5]

ポアソンは、1837年に客観確率と主観確率を明確に区別した^[6]。

その後、ジョン・スチュアート・ミル、エリス（「確率論の基礎について」^[7]、『確率論の基本原理についての指摘』^[8]）、クルーノー（「偶然と確率の理論の公開」^[9]）、フリースがほぼ同時に出版し、頻度論的見解を導入した。ジョン・ベンが徹底した解説を行った（The Logic of Chance: 確率論の基礎と道筋に関するエッセイ（1866年、1876年、1888年に出版された版））^[10][6]を20年後に発表した。これらはジョージ・ブールやジョゼフ・ベルトランの出版物によってさらに支持された。その次世代は、古典的な推論統計学の手法（有意差検定、仮説検定、信頼区間）を、すべて統計学的確率に基づいて確立した。

また、ヤコブ・ベルヌーイ（JamesまたはJacquesの別名）は、統計的確率の概念を理解しており、死後の1713年に、大数の法則の証明が発表された^[11]。彼はまた、主観確率を（ベイズの定理に先立って）評価したとされる^[12][13]。ガウスとラプラスは、ポアソンより1世代前の1世紀後に、最小二乗法の導出に統計学的（と他の）確率を用いた^[14]。ラプラスは、古典的確率の対象とはなり得ない、証言、死亡表、裁判の判決などの確率について考察した。このように考えると、ポアソンの貢献は、「逆確率」（主観確率、ベイズ確率）の解釈を鋭く批判したことにある。ガウスとラプラスによる批判は、控えめで暗示的であった（彼らの後の導出では、逆確率は使われていなかった）。

20世紀初頭の「古典的」統計学に貢献したのは、フィッシャー、ネイマン、ピアソンの3人である。フィッシャーは統計学の大部分に貢献し、有意差検定を実験科学の中核とした（ただし、彼は、同じ母集団から繰り返し抽出するという頻度主義に批判的だった^[15]）。ネイマンは信頼区間を定式化し、標本調査の推定理論に大きく貢献した。また、ネイマンとピアソンは共同で仮説検定の理論を開発した。何れも客観性を重んじていたので、確率の解釈としては頻度論が最適だった。全員が、等確率の原理を用いて事前確率を選択した「逆確率」（利用可能な代替案）に疑いを持っていた。フィッシャーは次のように述べている。「...逆確率の理論は誤りの上に成り立っており、（ベイズの定理を指して）完全に否定されなければならない」研究者のための統計手法』より）と述べている。ネイマンが純粋な頻度論者であったのに対し^[1]、フィッシャーの確率観はユニークで、両者とも確率に特別な意味合いを持たせていた。リヒャルト・フォン・ミーゼスはこの時代、頻度論を数学的、哲学的に組み合わせることを提案していた^[2][16]。

オックスフォード英語辞典によると、「頻度主義者」という用語は、1949年にモーリス・ケンド－ル（英語版）が用いたのが最初である。対照的に、彼はベイズ確率主義者を「非頻度主義者」と呼んでいる^[17][18]。彼は次のように考察した：

…我々は広く、確率を主に2つの考えでとらえているだろう。一つは、確率をある程度理に適った信念でとらえようとしていることと、もう一つは、確率を、事象の発生頻度、あるいは母集団に対する割合として定義していることである。（p.101, 3行目）

...

頻度主義者と非頻度主義者の違いは、（私の発言が許されるのであれば）おおむね、それぞれの対象領域による違いと思われるかもしれない。（p.104, 12行目）

...

しかし私はそうは思わない…頻度主義者と非頻度主義者の本質的な違いは、前者は解釈が分かれないように、母集団の客観的な特性から確率を定義しているのに対して、後者はそうではない。（原典を強調）

より早く、1921年のケインズの著書の章題で『頻度主義による確率論』 ("The Frequency Theory of Probability") が使われている^[4]。

歴史的な順序としては、20世紀以前に確率の概念が導入され、確率論の多くが導出された。20世紀に、古典的な推定統計学が開発され、確率の数学的基礎が固められ、現在の用語が導入された。確率論と統計学の初期の歴史的な原典では、古典的確率、主観確率（ベイズ確率）、統計的確率という用語は使用されていなかった。

確率論は数学の一分野である。そこに至るまでには何世紀も経たが、1933年のアンドレイ・コルモゴロフによる確率の公理で成熟した。公理的確率は、それまでの確率への値の割り当て方でなく、むしろ確率が満たすべき演算に焦点が当てられている。確率の解釈の違いによって数学全体が大きく影響を受けることはない。

確率の解釈は、哲学、科学、統計学により導かれる。我々は観測から法則を導き出す（帰納）が、そこにはいくつかの解釈があり^[19]、いずれにも問題がある。頻度論的解釈は、物理的対称性が認められない場合などの、古典的解釈における問題を解決する。ただしこれは dutch book（英語版）のような問題には対応していない。

• 古典的確率は、サイコロ、コイン、カードなどの完全な物理的対称性に基づいて割り当てられる。ここから根元事象の確率が等しいことを仮定して導入されるため^[20]、古典的確率は統計的確率の一部に過ぎない。物理的対称性がない場合、古典的確率の適用範囲は限られる。
• 主観確率（ベイズ確率）は個人の信念がある程度考慮され、そこには異なる解釈がされうる。全ての「主観確率」は主観を極力排除するように定義されている。観測者、解釈者の単なる主観に過ぎないものは、科学のいくつかの定義とは相容れない^[要出典]。ベイズ主義による科学的分析（論理ベイズ主義など）は、そこに固有の主観を含み、主観の影響に境界線を引くために、ベイズ推定を用いる^[21]。この概念は数値で表しにくい法的証拠といった範囲にまで拡張して適用できるようになった。
• 傾向確率（英語版）は、主観確率というよりも原因の確率として記述されている^[19]。

• パーシー・ブリッジマン、The Logic of Modern Physics, 1927
• アロンゾ・チャーチ、The Concept of a Random Sequence, 1940
• ハラルド・クラメール、Mathematical Methods of Statistics, 1946
• William Feller, An Introduction to Probability Theory and its Applications, 1957
• ペール・マルティン＝レーフ、On the Concept of a Random Sequence, 1966
• リヒャルト・フォン・ミーゼス、Probability, Statistics, and Truth, 1939 (German original 1928)
• イェジ・ネイマン、First Course in Probability and Statistics, 1950
• ハンス・ライヘンバッハ、The Theory of Probability, 1949 (German original 1935)
• バートランド・ラッセル、Human Knowledge, 1948
• ミルトン・フリードマン (1999). “The Frequency Interpretation in Probability”. Advances in Applied Mathematics 23 (3): 234-254. doi:10.1006/aama.1999.0653.  PS

• 統計学の歴史

表 話 編 歴 統計学
標本調査	標本 母集団 無作為抽出 層化抽出法
記述統計学	連続データ 位置 平均 算術 幾何 調和 中央値 分位数 順序統計量 最頻値 階級値 分散 範囲 偏差 偏差値 標準偏差 標準誤差 変動係数 決定係数 相関係数 自己相関 共分散 自己共分散 分散共分散行列 百分率 統計的ばらつき モーメント 分散 歪度 尖度 カテゴリデータ 頻度 分割表
推計統計学	仮説検定 パラメトリック t検定 ウェルチのt検定 F検定 Z検定 二項検定 ジャック–ベラ検定 シャピロ–ウィルク検定 分散分析 共分散分析 ノンパラメトリック ウィルコクソンの符号順位検定 マン・ホイットニーのU検定 カイ二乗検定 イェイツのカイ二乗検定 累積カイ二乗検定 フィッシャーの正確確率検定 尤度比検定 G検定 アンダーソン–ダーリング検定 コルモゴロフ–スミルノフ検定 カイパー検定 マンテル検定 コクラン・マンテル・ヘンツェルの統計量 その他 帰無仮説 対立仮説 有意 棄却 区間推定 信頼区間 予測区間 モデル選択基準 AIC BIC WAIC MDL その他 偏り 偏りと分散 過剰適合 推定量 点推定 最尤推定 尤度関数 尤度方程式 最小距離推定 メタアナリシス ブートストラップ法
ベイズ統計学	確率 主観確率 ベイズ確率 事前確率 事後確率 最大事後確率 その他 ベイズ推定 ベイズ因子
相関	相関係数 ピアソンの積率相関係数 スピアマンの順位相関係数 ケンドールの順位相関係数 偏相関係数 その他 自己相関 空間的自己相関 相互相関 交絡変数 相関関係と因果関係 擬似相関 錯誤相関
モデル	一般線形モデル 一般化線形モデル 混合モデル 一般化線形混合モデル
回帰	線形 リッジ回帰 ラッソ回帰 エラスティックネット 非線形 k近傍法 回帰木 ランダムフォレスト ニューラルネットワーク サポートベクター回帰 射影追跡回帰 時系列 自己回帰モデル 自己回帰移動平均モデル ARCHモデル 対移動平均比率法 トレンド定常 傾向推定 共和分 構造変化
分類	線形 線形判別分析 ロジスティック回帰 単純ベイズ分類器 単純パーセプトロン 線形サポートベクターマシン 二次 二次判別分析 非線形 k近傍法 決定木 ランダムフォレスト ニューラルネットワーク サポートベクターマシン ベイジアンネットワーク 隠れマルコフモデル その他 二項分類 多クラス分類 第一種過誤と第二種過誤
教師なし学習	クラスタリング k平均法（k-means++法） DBSCAN 密度推定（英語版） カーネル密度推定（カーネル） その他 主成分分析 独立成分分析 自己組織化写像
統計図表	棒グラフ バイプロット（英語版） 箱ひげ図 管理図 フォレストプロット ヒストグラム 円グラフ Q-Qプロット ランチャート 散布図 幹葉図 バイオリン図 ドットプロット ヒートマップ 階級区分図
生存時間分析	生存時間関数 カプラン＝マイヤー推定量 ログランク検定 故障率 比例ハザードモデル
歴史	統計学の創始者 確率論と統計学の歩み
応用	社会統計学 疫学 生物統計学 系統学 統計力学 計量経済学 機械学習 実験計画法
出版物	統計学に関する学術誌一覧 重要な出版物
全般	統計 頻度主義統計学 統計学および機械学習の評価指標
その他	方向統計学 S言語 R言語 統計検定 社会調査士 JDLA Deep Learning For GENERAL JDLA Deep Learning for ENGINEER 実用数学技能検定 品質管理検定
カテゴリ