ジョーカーをワイルドカードとして使えるとすると、どうも収拾がつかなくなりそうなので、ジョーカー同士でないとダメということにさせてください。
4枚残っている数字がn組、2枚残っている数字がm組あるときに、ノーミスで成功する確率をP(n,m)とします。最終的に求めるのはP(13,1)ですが、少ないカードでちょっと計算してみます。例えば、Aが4枚、２が4枚、ジョーカーが2枚の計10枚でP(2,1)を計算してみます。
最初の１枚は、（A or ２）かジョーカーかで場合分けします。
2枚目は、１枚目がA or ２ならそれと同じ数字のカード、１枚目がジョーカーならジョーカーのみで成功。
２枚をめくった時点で残るのは、4枚×１組＋２枚×２組か、４枚×２組のいずれか。
というように場合分けしながら考えると、
P(2,1) = (8/10)×(3/9)×P(1,2) ＋ (2/10)×(1/9)×P(2,0)
ここで、
P(0,1) = 1
P(1,0) = 1
P(0,2) = (4/4)×(1/3)×P(0,1) = 1/3
P(0,3) = (6/6)×(1/5)×P(0,2) = 1/15
P(1,1) = (4/6)×(3/5)×P(0,2) ＋ (2/6)×(1/5)×P(1,0) = 1/5
P(1,2) = (4/8)×(3/7)×P(0,3) ＋ (4/8)×(1/7)×P(1,1) = 1/35
P(2,0) = (8/8)×(3/7)×P(1,1) = 3/35
より、
P(2,1) = 1/105
となりました。こういう感じで
P(n,m) = (4n/(4n+2m))×(3/(4n+2m-1))×P(n-1,m+1)＋(2m/(4n+2n))×(1/(4n+2m+1))×P(n,m-1)
をP(13,1)について解けば良いかなーと思ったのですが、どうも私の頭ではサッと答えが出そうもないので方向転換。
考え方をカードを一列に並べる場合の数を数える方法に切り替える事にします。
同じ数字のカードは区別しないことにして、やはり、Aが4枚、２が4枚、ジョーカーが2枚の計10枚で試してみると・・・
全てのカードの並べ方は、10! /(4! 4! 2!) = 3150 通り
カードを2枚づつの組にしてAが２組、２が２組、ジョーカーが１組の計５組を並べる並べ方は（Ａの２組は区別しない、２の２組も区別しない）、5! / (2! 2!) としてもよいし、5Ｃ2×3Ｃ2と考えてもよく、とにかく30通り。
ノーミスで成功する確率は30 / 3150 = 1/105 となり、先に求めたP(2,1)と同じ。という具合で、この考え方で良さそう。
そこで、４枚×１３種＋ジョーカー２枚のカードで計算すると、
54枚全ての並べ方 54! / ( ((4!)^13) ×2 !)
２枚一組にして、それを並べる並べ方 27! / ((2!)^13)
ノーミスで成功する確率 ＝（27! / 54!) ×(4^13)×(3^13)×2 = （27! / 54!) ×(2^27)×(3^13)
ではないかと思います。エクセルでざっと計算させるとおよそ１×10^(-29)となりました。
以上、同じ数字の４枚のカードは区別しないと考えて計算してみましたが、それを全て区別して考える場合は、・・・
全てのカードの並べ方 54!
ノーミスで成功する場合の数は、２枚一組と考え、２７組のペアの並べ方を考えます。ただし、全てのカードの並べ方を54!としましたが、この中では、２枚一組としても、一組のなかの２枚のカードの並び方（めくられる順番）が区別されて数えられています。ですから、例えばＡの４枚を２枚ずつペアにする組み合わせは、（ハートとダイヤ、スペードとクラブ）、（ハートとスペード、ダイヤとクラブ）、（ハートとクラブ、ダイヤとスペード）の３通りが考えられますが、ハートとダイヤをペアにして考えた場合にはハート⇒ダイヤの順でめくられる場合と、ダイヤ⇒ハートの順でめくられる場合とを区別して、２７組のペアに対してそれぞれ2通りのめくられる順を考慮する必要があります。すると、
２枚組でめくられる場合の数 27! ×(3^13)×(2^27)
ですので、ノーミスで成功する確率は （27! / 54!) ×(2^27)×(3^13) となります。
これが正解であるなら、最初の式
P(n,m) = P(4n/(4n+2m))×(3/(4n+2m-1))×P(n-1,m+1)＋(2m/(4n+2n))×(1/(4n+2m+1))×P(n,m-1)
というもの、（27! / 54!) ×(2^27)×(3^13)を参考にしてうまくまとめられると思うのですが、やってません。
