ベースについては、エレキギターよりも一回りくらい高めに見込むのが良いかと思います。ギターの最低ラインを4~5万円と見るなら、ベースの最低ラインはそこに5,000~10,000円くらい上乗せして考えるのが良いでしょう。
予算2万以内ということですが、その価格帯では激安ブランドのものしか範囲に入らないと思います。激安物については、新品でも調整不足やいろいろな問題点が予想されるリスクの高いものと捉えるのが無難です。仮にそれを選ぶとしても、購入直後から全面的な再調整が必要になるものも少なくありません。どうしても予算を増やすめどが立たない、貯金をして時期を待つ心理的余裕がないのであれば、敢えていろいろな不備があることを織り込んだ上で、激安物を買ってみるのも一つの対処ではあります。ただ、最終的には買い替えをすることになる可能性は高いかもしれません。その分が長期的に見て余計な出費になる可能性もあるでしょう。もし予算を増やすチャンスが見込まれ、それまで時期を待つことができるのであれば、貯金をしながら時期を待つことも選択肢のひとつとして検討することをお勧めします。
なお、これまで経験したことのない楽器については、楽器店に出向いて現物に直に触れる機会を確保した上で購入を検討することを強くお勧めします。通販などで、想像だけで現物を確かめずに購入するのは、届いてみて想像を裏切られるというリスクも背負うことになるので、お勧めしません。また、楽器店であれば、現物に触れて大きさや重さ、ネックの握り心地や弦の太さ、硬さを実感した上で検討できますし、店員さんにアドバイスを求めることも可能です。
新品か中古かについては、新品を強くお勧めします。2万円以内の特に安い価格帯では、中古品でも粗悪品に当たるリスクが高くなります。中古品なら、新品と比べて価格よりも品質の良い物が買えるという保証はありません。中古品でも安いものには安いなりの原因があると捉えるのがよいでしょう。
また、中古品を検討する場合は、修理などを自前でできるようであれば問題も軽くなりますが、中古品の特に安い価格帯では修理前提やパーツ取りのためのジャンク(故障品)にあたるリスクも高くなりますし、そうでなくとも中古品は全般的に調整を施せるくらいのスキルがないと持て余すでしょう。新品であれば、購入直後の状態が良好であることが期待できますし、購入後1年間はメーカー保証がつくので正常使用下で起きた不具合は無償で対応してもらえますので、安心感があります。
アンプについては、ギター用のものをベースに使うのはあまりお勧めしません。ギターアンプは、エレキギターをエレキギターらしく鳴らすことを想定して作られているところがあり、ベースではその範囲から外れることになるため、思ったような音が得られない可能性も少なくありません。鳴れば良いと見るにしても、歪みやすかったり音の調整が思うように行かないようなアンプでは、最終的には音作りの感覚はつかめないでしょう。また、物によってはスピーカーが想定していない動作を強いることになり、スピーカーがヘタりやすくなる可能性もあります。
ベースを鳴らすのであれば、ベース向けのアンプを利用するのが妥当でしょう。余裕があれば、ベースアンプも買うことをお勧めします。
参考まで。