たとえば、端末（コマンドプロンプトなど）などから、コマンド名を打ち込んだときに、その実行ファイルをシステム（正確にはシェルなどのフロントエンド）が探すときに、どういうフォルダを順番に探すかを指定するものだと思います（実際には、どこにあるかは、ハッシュなどで記憶されて、通常は PATH 設定時や初回コマンド実行時に検索されるだけでしょうけど）。
C++コンパイラをインストールしたあとに、環境変数ＰＡＴＨを設定するということであれば、コンパイラの実行ファイルがあるフォルダなどを指定するのではないでしょうか。
カレントフォルダが、"マイフォルダ" だとして、コンパイラ(cc.exe とします）が "c:program files\compiler\bin" にあるとすると、パスを指定していないと、
> "c:program files\compiler\bin\cc" myprog.cc
と絶対パスで指定するとか、あるいはカレントフォルダからの相対パスで指定しないとなりませんが、パスを通しておくと、
> cc myprog.cc
と、コマンド名を打つだけでよくなるので、タイプが楽になります。さらに、コンパイラなど実行ファイルの内部で、さらに別のコマンドを呼ぶものもあり、コマンドが呼ばれた形式を考慮しないで作られていた場合などは、パスを通しておかないと、うまく実行できないコマンドもあると思います。なので、パスは指定しておくのがいいと思います。
補足
ありがとうございます コンパイラが別のファイルを読み込む?ときに、必ずしもそのファイルがあるドライブがCではなく、OSによって異なるから環境変数で読み込むドライブを指定してそこから読めるようにするためにあるのですか?