∫f(x)dx を x=g(t) で置換すると、
合成関数の微分公式から派生する
置換積分の公式により、=∫f(g(t))g'(t)dt です。
質問の計算では、f(x)=√(aa-xx),
g(t)=a sin t ということですね。
√ の部分を整理するとき、|cos t| が現れます。
x と t での積分範囲の対応を決めるとき、
cos t の符号を意識しておくとよいです。
-π≦t≦π に収めておくと、簡単です。
ヒントに沿って、少し計算を進めたら、
そこまでの経過を補足に書いてみましょう。