その答えは各レコード会社の宣伝／販促担当者が長年分析し続けて、未だに答えが無いものです。
（それが分かればこんなに浮き沈み激しくないですよ）
基本にあるのは楽曲の良さや声の良さですけど、
販売戦略、露出度（タイアップ）も大きな要素です。
でも、お金をかけたら売れる訳じゃないし、
お金をかけてやはり売れたりもします。
究極的な事を言ってしまえば「時代」が関係しているんですよ。それを外してしまえばそれまでです。
どんなに良い曲でもね。
ただし、ある種の例外はあります。
例えば超大物アーティストの存在。
ブームなどではなく、確固たる地位を築いたアーティストはそれだけで売れます。ブランドみたいなものですね。
もちろん受けない曲を連発していれば忘れ去られますが、一定以上のレベルを維持すれば、当初の勢いが無くともファンは買い続けるのでかなりの枚数がさばけます。
そういう意味で驚異的な存在としては「B'z」や「ミスチル」などが挙げられます。彼らは長年ミリオンアルバムを出し続けている希有な存在です。
シングルでは振るわず、アルバムで売上が伸びる、というのは割と最近の傾向ですね。
昔だとアルバムの質が高い事がその理由だったりしましたが、今はオリジナルアルバムなのにベストアルバムみたい（シングル曲を多く収録している）なアーティストが多いんですよ。
例えばシングルを３曲以上収録したアルバムなら、アルバムの方が割安ですからね。
そういう訳で、シングルはレンタルで、という人が増えたりしているのです。
まあ、何にしても狙ってミリオンを達成するのはほぼ不可能と思って下さい。
（一部例外を除く）
お礼
詳しい回答ありがとうございます！ やはりこれは「時代」の問題ですか。何故なのかは未だに不明なんですねぇ・・・ 回答ありがとうございました！