与えられた行列を下のように表します。
{ {1, 2, 1}, {3,3,8}, {2,5,0} }
これをAとします。
(A|I)に行基本変形します。
{(1,2,1,1,0,0),(3,3,8,0,1,0),(2,5,0,0,0,1)}
左の括弧内の3倍を中の括弧から引きます。
{(1,2,1,1,0,0),(0,-3,5,-3,1,0),(2,5,0,0,0,1)}
左の括弧内の2倍を右の括弧から引きます。
{(1,2,1,1,0,0),(0,-3,5,-3,1,0),(0,1,-2,-2,0,1)}
中の括弧内を-3で割ります。
{(1,2,1,1,0,0),(0,1,-5/3,1,-1/3,0),(0,1,-2,-2,0,1)}
中の括弧内の倍を左の括弧から引きます。
{(1,0,13/3,-1,2/3,0),(0,1,-5/3,1,-1/3,0),(0,1,-2,-2,0,1)}
中の括弧の値を右の括弧から引きます。
{(1,0,13/3,-1,2/3,0),(0,1,-5/3,1,-1/3,0),(0,0,-1/3,-3,1/3,1)}
同じようにして、それぞれの括弧内の左が(1,0,0 (0,1,0 (0,0,1になるまで変形していきます。
(I|Aの逆行列)の形にします。
そうして出来た右側が逆行列です。
最後まで変形すると
{(1,0,0,-40,5,13),(0,1,0,16,-2,-5),(0,0,1,9,-1,-3)}
となり、逆行列は
{(-40,5,13),(16,-2,-5),(9,-1,-3)}}
となります。
3×3の行列{(a.b.c).(d.e.f).(g.h.i)}に対して
逆行列があるかどうかは
aei+dhc+bfg-afh-ceg-bdiが0かどうかで判断でき、
0でない場合、逆行列は存在します。