無理です。それと、使用アプリケーションぐらいは書いておいたほうが良いでしょう。
#1様も仰っているように、PhotoShop等で多少ごまかせる部分はありますが、
>JPG画像を拡大しても画質が荒くならないよう
と言うことは、基画像よりも精度を高くすることと同じですので…。基画像以上の画像は作れません。
>トレースしてそれにマスクをかけても無理でしょうか?
意味が良く分かりませんが?いずれにせよ無理です。
どのようなソフトかは分かりませんが、画像処理ソフト(PhotoShop等)にて拡大処理をして取り込むほうが良いでしょう。基がjpegだからと言って、作業中のファイルをjpeg保存はだめですよ!非可逆圧縮なので。
お礼
フォトショップとイラレはありますのでやってみます。ありがとうございます。