マンテル検定 （マンテルけんてい、英 : Mantel test ）は、ナイサン・マンテル （英語版 ） 行列 の間の相関関係 を検定するノンパラメトリック な検定方法 である。用いる行列 は同じ階数 のものでなければならない；ほとんどの場合、適用となるのは対象のベクトル が同じ行列 同士の相関関係 である。マンテル検定はアメリカ国立衛生研究所 の生物統計専門職であったマンテルによって1967年に最初に発表された[ 1] [ 2]
マンテル検定は一般に生態学 の分野で用いられる。生態学 におけるデータの検定は、生物の種 などの対象の間の“距離”の推定となることが多いからである。例えば、一つの行列が分子系統学 の手法によって得られるような、研究において全てのとりうる種の組み合わせ相互の間の遺伝的距離(例；2つの異なるゲノム の間の違いの量)の推定値を含むような場合である；一方、ある種 の地理的分布と他の全ての種 の分布との地理的な距離の推定などにも用いられる。
もしn 個の対象があり行列 が対称行列 であるなら(つまり対象物 a から対象物b までの距離はb から a までと同じになる)、この行列 は次の式で表される距離を含む
n
(
n
− − -->
1
)
2
{\displaystyle {\frac {n(n-1)}{2}}}
距離は相互に独立していないので– 一つの対象物の位置を変えることはこれらの距離の
n
− − -->
1
{\displaystyle n-1}
相関係数 を単純に評価することで調べられなくなり、また統計学的な有意性検定 を行うこともできなくなる。マンテル検定はこの問題を取り扱うものである。
ここで用いられる手順はある種のランダム化、あるいは置換検定 である。2つの
n
(
n
− − -->
1
)
/
2
{\displaystyle n(n-1)/2}
相関関係 を計算する。これは相関関係 の大きさであると同時に検定統計量となる。原則的にはどのような相関係数 を用いることもできる。しかし通常はピアソンの積率相関係数 が用いられる。
通常の相関係数 の使用とは対照的に、相関関係 の有意性を解析するために一方の行列 の行および列に対して繰り返しランダム置換 を行う。そして相関関係 も置換 ごとに再計算する。観測された相関関係 の重要性の程度は、高い相関関係 を導くことになったこれらの置換 の割合に該当する。
その理由はもし2つの行列 の間に関係がないという帰無仮説 が正しければ、行列 の行および列の置換 から大きい係数も小さい係数も同じような確率で導き出されるはずだ、というものである。2つの行列 の各要素の統計上の依存性から来る問題を克服することに加えて、置換検定 を用いることで行列の要素の統計的な分布を推測する必要がなくなる。
多くの統計ソフト にはマンテル検定が標準で組み込まれている。
マンテル検定やその拡張である偏マンテル検定 を導入した論文において帰無仮説 とその対立仮説 を十分に明示した明確な統計的な枠組みを欠いている例が散見される。こうしたことはこの検定方法がいろんな場面で用いることが可能であるという誤った考えを広めることになっている。例えば、マンテル検定および偏マンテル検定は空間的自己相関分析 において欠点があり、誤って低いp 値を返すことがある。(例；Guillot and Rousset, 2013)[ 3]
^ Mantel, N. (1967). “The detection of disease clustering and a generalized regression approach”. Cancer Research 27 (2): 209–220. PMID 6018555 . ^ Sokal RR, Rohlf FJ (1995). Biometry (3rd ed.). New York: Freeman. pp. 813-819. ISBN 0-7167-2411-1 ^ Guillot G, Rousset F (2013). "Dismantling the Mantel tests". Methods in Ecology and Evolution . 4 (4): 336–344. arXiv :1112.0651 doi :10.1111/2041-210x.12018 。
