直交行列(ちょっこうぎょうれつ, 英: orthogonal matrix)とは、転置行列と逆行列が等しくなる正方行列のこと。つまり n×n の行列M の転置行列を MT と表すときに、 MTM = MMT = E を満たすような M のこと。ただし、 E は n 次の単位行列であり、 E 自身も直交行列である。
有限次元実計量ベクトル空間の直交変換は、ある正規直交基底に関して実直交行列(成分が全て実数の直交行列)によって定まる線形変換である。ただし、直交変換とは(必ずしも有限次元でない)実計量ベクトル空間V において内積を変えない(等長性をもつ)線形変換 f のことである。すなわち、
v, w を V の任意のベクトルとするときに、(f(v), f(w)) = (v, w)
が成り立つ。ただし、(•, •) は内積を表す。
定義
n 次正方行列 M の 転置行列 MT が Mの逆行列になっているとき、すなわち MT = M-1 を満たすとき、M は直交行列であるという。
直交行列は内積を保つ線型変換としても定義できる。実計量ベクトル空間 V の任意のベクトル v, w に対し、内積を (v, w) = vTw とする。v, w が行列 M により Mv, Mw に変換されたとき、内積は
となるので、行列 M が直交行列であるのは計量ベクトル空間 V の内積を変えないとき、かつそのときに限る。
直交行列は正則行列であり、直交行列は積や逆について閉じている。n 次直交行列全体の集合を n 次直交群といい、O(n) と書く。行列式の値が1となる直交行列全体の集合を特殊直交群といい、SO(n) と書く。