太政大臣は天皇を頂点とする朝廷(律令によった統治機構)の最高地位、
征夷大将軍は武士が朝廷より許されて開いた幕府(軍政の為の現地行政府)の長、
と考えれば分かりやすいと思います。
中国の唐では、節度使という各地へ派遣された将軍たちが軍の力を背景に、常設的な軍政府=幕府を開いていました。
日本とは異なり複数の幕府がありました。
日本へは、律令制度の導入や遣唐使などを通してこう言う軍事制度があることが伝わっていたようです。
日本では平安時代になると東北地方にしか軍事的な敵対勢力がなかったため、自然幕府は征夷大将軍府だけになっていきます(この段階では、戦争のたびに任命され解任されています)。
これが、後に「武士政権=常設的な幕府」となり、その長が征夷大将軍職を引き継ぐ流れへと続いていくわけです。