その通りです。
The day before「その前日」、two days before「その2日前」とbeforeを使うのは過去完了と共に使います。
I was there yesterday. を過去完了にすると
I had been there the day before. となります。
ただし、the day before yesterdayは「おととい＝一昨日」、two days before yesterday「先おととい」は過去時制と共に用います。つまり、the day beforeの後にある特定の日にちが指定されれば、過去形と共に用いることも可能なわけです。
A : I went there last Sunday.
B : Me too, I went there the day before that day.
この時、the day beforeだけならI had been thereと過去完了を使うのが正しい使い方ですが、話の内容からthat dayは先週の日曜であることは自明の理なので、省かれることがよくあります。でも時制はそのまま過去形が使われるわけです。
このように、くだけた会話などでは文脈からthe day beforeが過去形と共に使われることが起こりますが、受験用文法問題では、ご質問文にある通り、the day before単独では過去完了と共に用いると覚えておかれて大丈夫でしょう。
