선형대수학에서 직교 행렬(直交行列, orthogonal matrix)은 행벡터와 열벡터가 유클리드 공간의 정규 직교 기저를 이루는 실수 행렬이다.
실수 n × n {\displaystyle n\times n} 행렬 Q {\displaystyle Q} 에 대하여, 다음 조건들이 서로 동치이며, 이를 만족시키는 Q {\displaystyle Q} 를 직교 행렬이라고 한다.
모든 직교 행렬은 가역 행렬이며, 직교 행렬의 곱은 항상 직교 행렬이므로, n × n {\displaystyle n\times n} 직교 행렬의 집합은 직교군 O ( n ; R ) {\displaystyle \operatorname {O} (n;\mathbb {R} )} 이라는 군을 이룬다. 행렬식이 1인 직교 행렬의 집합은 특수직교군 SO ( n ; R ) {\displaystyle \operatorname {SO} (n;\mathbb {R} )} 이라는 부분군을 이룬다.
실수 1 × 1 {\displaystyle 1\times 1} 직교 행렬은 다음과 같은 꼴과 동치이다.
실수 2 × 2 {\displaystyle 2\times 2} 직교 행렬은 다음과 같은 꼴과 동치이다.