(1)について
sinの中に注目、x→∞のとき√(x+2)-√x→0より、
lim[x→∞]{sin(√(x+2)-√x)/(√(x+2)-√x)} = 1
となり、これが利用できるような気がする。
これを使うために与式を変形
lim[x→∞]{((x+3)/√(4x+5))*sin(√(x+2)-√x)} = lim[x→∞]{((x+3)*(√(x+2)-√x)/√(4x+5)) * sin(√(x+2)-√x)/(√(x+2)-√x)}
先ほども書いたようにsin(√(x+2)-√x)/(√(x+2)-√x)は1に収束するから、これより先、(x+3)*(√(x+2)-√x)/√(4x+5)についてだけ考えればよい。
まず分子にある(√(x+2)-√x)を有理化して分母に追いやる
(x+3)*(√(x+2)-√x)/√(4x+5) = 2(x+3)/(√(4x+5)*(√(x+2)+√x))
ここから分子分母をxで割って、
2(1+3/x)/(√(4+5*x)*(√(1+2/x)+1)) → 2*1/(√4*(√1+1)) = 1/2
以上まとめると、
lim[x→∞]{((x+3)/√(4x+5))*sin(√(x+2)-√x)} = (1/2)*1 = 1/2
(2)について
基本的には、sin(2x),sin(3x)を倍角,3倍角の公式を使い展開してゆくだけ、
まずはsin(2x)/(2x)-sin(3x)/(3x)の部分だけ考えます、展開出来るだけ展開して、共通因数のsin(x)/xで括ると
sin(2x)/(2x)-sin(3x)/(3x) = (sin(x)/x) * (cos(x)-(cos(x))^2+(1/3)*(sin(x))^2)
例によってsin(x)/xは1に収束するので、後半のcos(x)-(cos(x))^2+(1/3)*(sin(x))^2についてだけ考えればよい。
ここから1/x^2も含めて考えると
(cos(x)-(cos(x))^2+(1/3)*(sin(x))^2)/x^2 = cos(x)*(1-cos(x))/x^2 +(1/3)(sin(x)/x)^2
この中で不定型として残されているのは(1-cos(x))/x^2だけ。
(1-cos(x))/x^2の分子分母に1+cos(x)を掛けて変形すると
(1-cos(x))/x^2 = (1-(cos(x))^2)/(x^2) * 1/(1+cos(x))
= (sin(x)/x)^2 * 1/(1+cos(x)) → 1*1/(1+1) = 1/2
よって先ほどの式に当てはめると
cos(x)*(1-cos(x))/x^2 +(1/3)(sin(x)/x)^2 → 1*(1/2) +1/3 = 5/6
以上まとめると、
lim[x→0]{(1/x^2)*(in(2x)/(2x)-sin(3x)/(3x))} = 5/6
お礼
(1)で lim[x→ 0]{sin(x)/(x)} = 1 という公式にとらわれすぎて、 lim[x→∞]{sin(1/x)/(1/x)} = 1 となるのが盲点でした! ありがとうございました。