行優先と列優先の違い
行優先と列優先の違いは、要素の格納順序を行方向から並べるか列方向から並べるかの違いです。 どちらを採用するかによって、行列の要素の扱いやベクトルとの掛け合わせの順番が変わります。
行列の要素の配置
ここでは4x4行列を次のように表現します:
⎝⎜⎜⎛M11M21M31M41M12M22M32M42M13M23M33M43M14M24M34M44⎠⎟⎟⎞
行優先と列優先どちらでも行と列の意味は変わりません。値を格納する順番が変わります。
それぞれに 1~16 の値を格納すると次のような関係になります:
列優先: ⎝⎜⎜⎛12345678910111213141516⎠⎟⎟⎞
行優先: ⎝⎜⎜⎛15913261014371115481216⎠⎟⎟⎞
相互に変換したい場合は行列を転置(transpose)します。 言い換えると、列優先行列と行優先行列は転置行列の関係にあります。
ベクトルの種類
次の組み合わせで使われることが一般的だと思います。
列優先であれば、列ベクトル:
⎝⎜⎜⎛xyzw⎠⎟⎟⎞
行優先であれば、行ベクトル:
(xyzw)
ベクトルと行列の積
3Dグラフィックスでは、ベクトル(頂点、法線など)を行列で変換して結果のベクトルを求めることが主な目的です。この場合のベクトルと行列の積は次のように行います。
列優先行列・列ベクトルであれば行列の右側からベクトルを掛けます:
⎝⎜⎜⎛x′y′z′w′⎠⎟⎟⎞=⎝⎜⎜⎛M11M21M31M41M12M22M32M42M13M23M33M43M14M24M34M44⎠⎟⎟⎞⎝⎜⎜⎛xyzw⎠⎟⎟⎞
行優先行列・行ベクトルであれば行列の左側からベクトルを掛けます:
(x′y′z′w′)=(xyzw)⎝⎜⎜⎛M11M21M31M41M12M22M32M42M13M23M33M43M14M24M34M44⎠⎟⎟⎞
行列とベクトルの積についての、もう少し詳しい説明は「行列とベクトルの積・行列と行列の積の説明」に書いています。