幾つかの理由があると思います。
J:COMのサービスを利用しての固定電話の接続のようなので
(1)壁のモジュラージャックと電話機との間にモデムが設置されてるかと思います。
その壁からモデム。モデムから電話機。
の接続方法の間違い。
(2)モデムの電源が入ってない。もしくは設定がなされてない。
(3)契約直後でまだ開通工事がなされてない。
概要的には、こんな所かもしれません。
(1)が原因なら、モデムに差し込んでるコードの差し込み口を再度調べて違う口に差し直せば繋がるようになる可能性があります。
(2)の場合で、モデムの設定がなされている場合には、電源を入れた後にモデムが設定の読み込みを始めるので数分後には繋がる可能性があります。
設定がなされてない。もしくは開通工事が終わってない場合には、J:COMに問い合わせた方が早いかと思います。