>3セット目が3回ほどしかできなかったらこれは最大筋力向上のほうに貢献してしまいますか?
そうではないです。筋肥大に適するRM数としよく言われるのは「1セット目10回前後」で、2セット目以降の限界回数ではありません。「筋力向上ならRM3回」と言われるのは、1セット目で非常に大きな力を出すということです。筋肉がヘタってから限界回数が3回になっても神経系の覚醒による筋力向上は期待できません。
>次のセットのレップ数を予測して5レップ以下位になってしまうようだったら少し重量をさげて次のセットを行ったほうがいいですか?
1セット目をRM10回でやれたとします。そのままの負荷では2セット目以降は1セット目と同じようにはやれません。そこでどうするかについて、二つの考え方があります。
一つは、2セット目以降は少しずつ負荷を下げて行き、1セットの限界回数を10回でキープすることです。その負荷が1セット目の60%以下になったら終了とします。
も一つは、2セット目以降も負荷を変えず、限界回数が1セット目の60%以下になったら終了とするものです。
どちらにするにせよ、3セットということに拘る必要はありませんが、あまりに多数回のセット数が行えてしまうのは、どこかおかしいと考えるべきです。また、終了時点でパンプアップが起こっていないと、やはりどこかがおかしいです。
ただ、おかしいと言っても、神経系の覚醒がまだ十分でないと(筋トレ開始3か月以内、スロトレ・加圧トレから普通の筋トレの移行時ではほぼ確実にそうなる)、どうしてもそうなることもあります。
補足
2つ目の負荷を変えない方法で60%以下までいき、それで物足りなかったら重量を少し下げてもう1セットくらいやるという方法はあまり良くないでしょうか?