クレジットというのはキャッシュローンの事でしょうか？
また、利息の過払いというのは出資法の範囲内で利息が設定されており
それを利息制限法に引きなおして過払い分を返還して欲しいという事でしょうか？
それとも毎月定額返済などを行っており、最終支払時に過払いになっている状態で、
その分を返還して欲しいという事でしょうか？
後者であれば請求すれば返還に応じてもらえるはずです。
ただ、額が余りにも小さく、振込手数料にも満たないような場合は難しいかも。
解約するのでなければ預かり金として次回利用時に差し引くのが良いかと。
前者の場合ですが、相手も一筋縄では行きませんので、弁護士を通さない限り難しいです。
そうすると、借入金額と期間と利率にもよりますが、大した金額は返ってこず、
下手をすれば弁護士費用で赤字に・・・。
また、金融関係の会社を敵に回すことになりますので、（弁護士介入の履歴が残る）
金融関係の新規契約や現在の契約が不利になる（契約拒否・解除）可能性が高いです。
個人的には借入時にその利息で納得した上で契約している事もありますし
上記のように今後不利になる事も考えられるので、余程でない限りは諦めるのが吉
