この問題の解法の大まかな流れを言います。
まず、その２次形式の表示は、ある座標(a,b,c,d)に関する表示です。
それは、行列の掛け算法則を使えば、次のように書けます：
5a・a+3b・b+4c・c+6d・d-2√2a・c =（a,b,c,d)Ａ[t^(a,b,c,d)] ---(1)
ただし、Ａは４×４対称行列
５ ０ ‐√２ ０
０ ３ ０ ０
‐√２ ０ ４ ０
０ ０ ０ ６
のこととしました。
この対称行列Ａは、ある直交行列Ｐによって対角化できます。
(このことは一般論です。これの証明は長くてとてもここで説明する気に
なりません。) つまり、Ａの固有値を重複も込めて、α、β、γ、δとし、
それぞれに属する長さ１の固有ベクトルをｐ1、ｐ2、ｐ3、ｐ4とするとき、
必要ならこれらを直交化しておいて、直交行列Ｐを、
Ｐ＝[ｐ1、ｐ2、ｐ3、ｐ4]
としてつくる。このとき、
(t^Ｐ)ＡＰ＝
α０００
０β００
００γ０
０００δ
という式が成り立つ。右辺の対角行列を〈α,β,γ,δ〉と書くことにする。
そこで、新しい座標系(ｘ,ｙ,ｚ,ｗ)を、
(ｘ,ｙ,ｚ,ｗ)=(ａ,ｂ,ｃ,ｄ)Ｐ
で定めると(つまり、座標(ｘ,ｙ,ｚ,ｗ)と座標(ａ,ｂ,ｃ,ｄ）との間の対応を
与えた）、式(1)は、つぎのようになる：
(a,b,c,d)Ａ[t^(a,b,c,d)]＝(ｘ,ｙ,ｚ,ｗ)(t^Ｐ)ＡＰ[t^(ｘ,ｙ,ｚ,ｗ)]
＝(ｘ,ｙ,ｚ,ｗ)〈α,β,γ,δ〉(ｘ,ｙ,ｚ,ｗ)
＝αｘ^2＋βｙ^2＋γｚ^2＋δｗ^2
こうして、座標の直交変換をすることで、標準形が得られる。
だいたいこんな感じでこの問題は解きます。もっと詳しく知りたければ、
具体的にこの部分がわからないということを言ってください。
お礼
ご丁寧な説明ありがとうございました。解法の流れはなんとなくわかりました。Aの固有値は３と６でどちらも重解ですよね。α、β、γ、δが３、３、６、６ということですよね。(a,b,c,d)Ａ[t^(a,b,c,d)]＝3ｘ^2＋3ｙ^2＋6ｚ^2＋6ｗ^2ということで直交変換すればよいのでしょうか？