5.6と5.7からΦを消せ、とあるので、消します。
どうするかというと、
sin^2 + cos^2 = 1
の関係を使います。
すなわち、5.6を
hv1/c sin θ = mv sinΦ
として両辺自乗すると
(hv1/c)^2 sinθ^2 = (mv)^2 sinΦ^2
となります。
また、5.5を
hv0/c - hv1/c cosθ = mv cosΦ
として両辺自乗すると
(hv0/c - hv1/c cosθ)^2 = (mv)^2 cos Φ^2
となります。
これらを足し合わせると
(hv0/c - hv1/c cosθ)^2 = (mv)^2 cos Φ^2
+(hv1/c)^2 sinθ^2 = (mv)^2 sinΦ^2
(hv1/c)^2 sinθ^2 + (hv0/c)^2 -2(hv0/c)(hv1/c) cosθ + (hv1/c)^2 cosθ^2 = (mv)^2 (sin Φ^2 + cosΦ^2)
となりますから、最初に書いた関係をつかうと
(hv1/c)^2 + (hv0/c)^2 -2(hv0/c)(hv1/c) cosθ = (mv)^2
とできます。
ここまでやって気づきましたが、5.8式は一箇所間違ってますね。
左辺第3項の係数は、
2h^2v0v1/c^2
のはずです。プランク定数も自乗です。そうでないと、他の項と次元が合いません。
また、5.8式の中央と右辺の関係は、単に5.5式を以下のように変形しただけです。
hv0 = hv1 + 1/2 mv^2
から
mv^2 = 2h (v0 - v1)
m^2 v^2 = 2mh (v0 - v1)