因数定理を使えばx=1が見つかるので、左辺が簡単に因数分解できます。
それが#1さんの解法です。
しかし、カルダノの解法で解け。という問題なら
以下のように解きます。
x^3+3x^2+8x-12=0 …(1)
a=1, b=3, c=8, d=-12 …(2)
x=t-b/(3a)=t-1…(3) とおき(1)に代入。
(t-1)^3+3(t-1)^2+8(t-1)-12=0
整理して
t^3+5*t-18=0 …(4)
p=5, q=-18 …(5)
(4)の解をt=u+v …(6) とおく。
u,vは以下の連立方程式を満たすように定める。
u^3+v^3-18=0 …(7)
3uv+5=0 …(8)
(8)から v=-5/(3u) …(9)
(7)に代入、
u^3+(-5/(3u))^3-18=0
整理して
27u^6-486u^3-125=0 …(10)
>t^2-18t-125/27=0
t=u^3とおけば(10)に対応する。
u^3=(81±34√6)/9
u^3=(81+34√6)/9 …(11) の方を採用する。
u=((81+34√6)/9)^(1/3)=(3+2√6)/3 …(12)
(9)より
v=(3-2√6)/3 …(13)
wを1の3乗根、つまり w=(-1+i√3)/2 …(14) とおくと
w*=w^2=-(1+i√3)/2 …(15)
(4)の3つの解は (12), (13), (14), (15) から
t1=u+v=2
t2=uw +vw*=-1+i 2√2
t3=uw* +vw=-1-i 2√2
ゆえに、(1)の3つの解はt1,t2,t3を(3)に代入して
∴x=1, -2(1±i √2)