当方はMacは全く使ったことがありませんが・・・。
OMAファイルの中身がATRAC3なら、もしかするとVLC media playerで再生できるかもしれません。
http://www.videolan.org/vlc/
一口にOMAと言っても、中身のコーデックはATRAC3、ATRAC3plus、ATRAC Advanced Losslessがあります。そして有名なクロスプラットフォームのマルチエンコーダ/デコーダであるffmpegはATRAC3ならばデコードが可能です。
ffmpegをデコーダとして利用する再生ソフトとしてはVLC media playerが有名ですが、これはWin版だけでなくMac OS X版もあるようです。そして実際、下記を見るとATRAC3もOKとなってますね。
http://www.videolan.org/vlc/features.php?cat=audio
少なくともWin版のVLC media playerでは、OMA(ATRAC3)が再生できるのは当方(XP-SP3)では確認済みですが、ATRAC3plus、ATRAC Advanced Losslessだとダメですね。