入射側の物質(空気)の屈折率をni, 入射角をθi, 屈折側の物質(水)の屈折率をnr, 入射角をθrとするとスネルの法則により
sinθr/sinθi=ni/nr (1)
また物質の性質により
nr>ni
です。従って
sinθi>sinθr
であって、角度の大小はそのsinの大小と同じです。つまり
θi>θr
です。この関係において θiもθrも0~90°の範囲内の話です。つまり
90°≧ θi>θr ≧0
全反射するというのはθr=90°ということです。しかし上の式からこれは起こりえません。もしθr=90°なら90°≧ θi>90°という矛盾した状況を要求されることとなり、そのような入射はあり得ないことを示しています。
以下は補足です。質問に対する回答は以上です。
90°= θiはあり得ます。水面に平行に進んできた光がある点で水中に入る現象で、この時の水中での進行方向θrは明らかに90度より小さく、これを臨界角といい、θtで表します。スネルの法則:式(1)において
θi=90°、θr=θtを代入するとsin90°=1なので
sinθt=ni/nr
により、物質の組み合わせ(空気と水)に伴う臨界角が決まります。
空気の場合ni≒1, 水の場合nr≒4/3
sinθt≒3/4
θt≒48.6°
です。水の中をこの角度で進んできた入射光が空気中へ出るとき屈折光は水面に平行になります。 θtより少しでも大きい角度で水中を進んだ光は空中へ屈折することができなくて水面ですべて反射します。これが全反射です。