WindowsXPのアップデート(WindowsUpdate)によって提供された修正プログラムは、既に回答があるように、Uninstall情報としてCドライブのWindowsフォルダ内にUnInstallxxxxという名称で保存されています。(このフォルダは隠しフォルダとなっており、解除にはマイコンピュータのツールにあるフォルダオプション→表示→詳細設定項目のファイルとフォルダの表示で「全てのファイルとフォルダを表示する」にチェックを入れる必要があります。)
これは、コントロールパネルのプログラムの追加と削除において、修正プログラムを削除できるようにデータを保持しているのです。
これを削除すると古いデータのバックアップは消えます。ただし、これを行うと、万が一アップデート後にその修正プログラムに不備があり、マ社が削除するように通知を出した場合に、もとに戻せなくなります。
実際にこういう事例が発生することは希ですが、たとえば最近であればWindows2000においてWindows2000SP4 roll-up1と呼ばれる修正プログラムをまとめた更新において不具合があり、Officeでフロッピーディスクを使う場合はオフィスがハングアップするため、roll-up1v2が登場するまで適用をしないように求めるということがありました。
まあ、この辺りを理解し削除しても問題ないという判断をしてから削除することをお奨めします。この判断は、人に求める者でなく、自分で自分のコンピュータに必要かどうかを見極める必要があります。尚、Windowsの更新によって占有されるバックアップは微々たるもので、unInstall情報はCドライブがNTFSフォーマットなら自動的に圧縮がかかるため年間でも大して増えないでしょう。(およそ2年で300MBぐらいですから、CD1枚の半分です。)
むしろ、使い方によって増えるのはDocuments And Settings内に出来るTEMPファイルや、システム復元ファイルの方が大きいでしょう。特に後者は設定容量が大きいとかなりの量を消費します。