• 2次の正方行列Aに対して、その｢主対角線｣を中心に、それ以外の要素をすっかり入れ替えた行列をAの｢転置行列｣と呼び、^tAと書く。
  すなわち、に対して、
• 単位行列Eに対して、^tAA=Eとなる行列を、互いに｢直交行列｣と呼ぶ。すなわち、
  
• これを満たすa,b,c,dを求めたい。
  1. a²+c²=1
  2. b²+d²=1
  3. ab+cd=0
  i より、a=cosθ,c=sinθ とおくことができる。
  iii より、bcosθ+dsinθ=0 すなわち、
  
  ii より、sin(θ+α)=0 すなわち、θ+α=nπ  (ただし、nは整数)
  したがって、
  b=sinα=sin(nπ-θ)  ,  d=cosα=cos(nπ-θ)
  • nが奇数のとき
    b=sinθ  ,  d=-cosθ
  • nが偶数のとき
    b=-sinθ  ,  d=cosθ
  
  よって、求める｢直交行列｣は、次の2種であることがわかった。
    または、  

  ---

• ここで、^tAA=Eであるから、その｢行列式｣について、
  |^tAA|=|E|
  すなわち、
  |^tA||A|=|E|
  明らかに、|^tA|=|A|、また、|E|=1であるから、
  |A|²=1
  |A|²-1=0
  (|A|-1)(|A|-1)=0
  |A|=1
  
  ところで、
  |^tAA|=|E|
  すなわち、
  
  この変形は、｢シュヴァルツの不等式｣の証明と同じである。
  
  
  
  
• 上の、
    について、|A|=-1、
    について、|A|=1、
  である。

  ---

• |A|=1のとき、すなわち、  は、原点回りの(反時計回り)θ回転の1次変換を表す行列である。
  では、
• |A|=-1のとき、すなわち、  は、どのような1次変換を表しているのだろうか?
  
  であり、これは、
  1. x軸に関する対称変換、
  2. 原点回りθ回転を、
  引き続き行う合成変換であることがわかる。
  
  1. Pとx軸のなす角をφとする。Pをx軸に関して対称移動した点をP'とすると、
  2. P'を原点回りにθ回転した点Qは、
     
     となるから、
  この合成変換は、直線  に関する対称変換を表している。

---

直交行列について、次のことが言える。

直交行列による1次変換は、ベクトルのなす角を保存する。 直交行列による1次変換は、図形の形を変えない(合同変換)。

直交変換と拡大変換の合成
に対して、

• 直線  に関する対称変換と、r倍拡大
  
• 原点回りθ回転と、r倍拡大
  
• 原点回り-θ回転と、r倍拡大