「罰金」を課す事ができるのはこの国では裁判所しかありません。ですから完全に不法行為です。
仮に「罰金」という名称を用いていない場合も同様です。「カンパ」「集金」「貯金箱」どんな名前を使おうがその実質が罰金である以上はおなじことです。（警察が道路交通法により徴収する「反則金」というものがありますが、あれは行政罰の一種です。「罰金」とは少し趣旨がちがうものですが、ちゃんと法律に則って徴収されています）
一般企業でも社員の遅刻に対して「罰金」を取ることは一切許されません。大人たちに聞いてみてください。遅刻の罰金をとる会社で働いている人などいませんから。（ただし遅刻を理由として「給料」ではなく「賞与」のカットは許されています。これは「賞与」というのはいわいるボーナスであり、本来会社がわには支払う義務のないものだからです。０円でも文句いえない以上、当然減らされたくらいで文句言えるわけがないのです）
あなたの部活で始めにだれが「罰金」制度を作って、そしてだれが制度を運営しているのかなど問題ではありません。責任は全て顧問教師にあります。生徒から集めた罰金を適正に使用していたか、もしくは個人で流用していたかも関係ありません。その顧問はいままで集められた「罰金」の全額を返済する義務があります。なぜなら当該部活の法的な管理責任者はその顧問教師だからです。責任を取るのは当然なのです。
ではこの「罰金」制度をやめさせるにはどうすればいいか？答は簡単です。都道府県の教育委員会宛に事の詳細を記した「お手紙」を出しましょう。（匿名で可）そうすると事実確認の為にあなたの学校の校長のあてに教育委員会から電話が来るでしょう。そうすれば校長はまちがいなく当該顧問を呼びつけ事実を確認し、即刻「罰金」制度なるものを廃止しるように叱りとばすでしょう。
学校での生徒への「罰則」というのは、ある程度事由に学校側が決めることができます。「教育現場の自主性」は尊重されるべきであり、たとえ裁判所であろうと「著しく不公正」な場合を除き介入しようとしません。ですから仮に遅刻の罰則が「グランド10週」「腕立て50回」「バケツ持って立たされる」などである限りはよほど行き過ぎた罰でもないかぎり、顧問や先輩たちの自由にできます。
ただしそれと今回のケースとでは意味がちがいます。金額の如何にかかわらず直接「罰金」を徴収するなど許されるはずがないのです。
もし教育委員会に手紙をだしても拉致があかなかったら、今度は行政書士にでも依頼して「行政書士の名前入りの内容証明郵便」を出してやりましょう。費用はせいぜい1万円です。（弁護士でもいいですが、ちょっとお高くなります）
あなたの高校がもし公立高校でしたら、直接校長に内容証明を出すのもいいかもしれません。「もし改善されないようなら国家賠償請求訴訟を提訴する」と書いてやれば、少なくとも何かしらの対応は取らざるを得ないでしょう。（ちなみに「罰金」制度はなくなってもそれに変えて新たな罰則規定ができるでしょうから、あなた自身更にしんどい目にあうことになってしまう可能性はありますね。そのあたりを見極めながら主張すべきことを主張してみるのがよいでしょう）
お礼
回答ありがとうどざいました。教育委員会にメールを送ったら、全額返金で制度廃止になりました。無事に解決できてうれしく思います。ありがとうございました。