はじめまして、ya-ya-ya-と申します。
「かなり薄手で固めの玄関マットを使用しているのですが、、、」とのことですが
どのような素材の組み合わせのマットでしょうか？
「縁がだんだん上に反り返ってきて、、、」ということから推測しますと上部構造は湿度等により収縮しやすい素材、または下部構造が膨張しやすい素材だと思われます。（素材的に難あり、であれば買い替えも、、、）
めくれ上がりを防止するには縁取りの構造が重要です。お勧めは縁取りと裏面が同一のラバーで、ふちの部分が薄く（３ｍｍ以下）、ある程度重量感のあるものがいいです。
以上を踏まえた上で、今回の解決法ですが、
玄関（設置場所）を乾燥させる。（タイル面の場合）
埃を取る（フローリングの場合、ワックスコーティング材が使用されていると、非常に滑りやすくなっていますので、サラサラする成分の入っていない物を使用するか、家庭用洗剤でワックスの表面をふき取っておく。そして乾燥。）
マットをきれいに（反り返りをなくしておく）し乾燥させる。
マットより一回り小さ目で１～２ミリ位の厚さのシリコーンラバーを用意して
（私は勉強机で使っていたものを代用しました）
両面テープで丁寧に貼り付ける。 いかがでしょうか？（応急処置的ですが）
玄関でその家の雰囲気ががらっと変わってしまうので
マットには懲りたいですよね！ 尚且つ安全に使いたい！
清潔感も出したい！であれば、マット選びの優先順位は
(1)安全性 (2)審美性 (3)価格 の順で選びなおして、消耗品ですので数枚購入しては如何でしょうか？
以上 ご参考になれば幸いです。
お礼
はじめまして。ya-ya-ya-さん。 回答ありがとうございました。大変詳しい回答にびっくりしています。 どうも私はデザイン重視で物を買ってしまうため、材質は気にしたことがありません。今回の回答を読んで「そ、そ、そうだったのか～。材質って大切なんだな～。」と一人感動していました。 マットはフローリングの上に置いているのですが、床をまずきれいにして乾燥させるのがポイントですね？ それからマットも十分乾燥させる。 とりあえずマットを干してから反対向きにぐるぐる巻いて何日か置いておこうと思ってます。 本当にありがとうございました。 また、よろしくお願いしますね。