最初に、この数式は、C1:C100 のセル範囲に記入してください。101 行目以下だと「ROW()」が 101 以上となり、INDEX 関数の第 1 引数「A$1:A$100」に含まれる行数を超えるので、エラーとなります。
＞(1)『それ以外は101を返す』とありますが、なぜ101なのですか？
IF 関数はその第 1 引数が、TRUE であれば第 2 引数を、FALSE であれば第 3 引数をそれぞれ返します。したがって「それ以外」（「男」以外）の行については、第 3 引数の「101」が選択されます。
「なぜ第 3 引数を 101 にしたのか」という趣旨のご質問でしたら、100 より大きな整数（*）であれば幾つであっても、全体の数式はエラーにならないので、101 にしてみたというだけです。「999」とかであっても問題ありません。
* 実は INDEX 関数の第 2 引数として小数を指定してもエラーにはならなかったりしますが、小数点以下が勝手に切り捨てられてしまうので、通常は始めから整数を指定します。
＞(2)……『IF(B$1:B$100="男",ROW(B$1:B$100),101)』は、条件が男であるものを対象範囲とするという意味なのはわかるのですが、……
計算の過程について言うと、男であるもの「のみ」ではなくて、勿論 100 個のデータから成る配列の全てを対象として計算しています。IF 関数は上でも述べたとおり、選択するだけの関数です。つまりこの IF 関数は、「男」である行については第 2 引数を、それ以外の行については第 3 引数を選んでいくことにより、100 個のデータから成る配列を返しています。IF 関数によって、個数は減っていません。
＞……『ROW(B$1:B$100)』はなぜ必要なのでしょうか？
配列の、何番目の要素において第 3 引数が選ばれる場合でも、第 3 引数には「101」とだけ書いてあるため、常に 101 が返ります。101 で固定されています。
一方、第 2 引数としては 100 個のデータから成る配列を書いているので、第 2 引数は可変です。IF 関数が第 1 引数において n 番目の要素について計算しているとき、第 3 引数ではなく第 2 引数を返すならば、その 100 個のデータのうち n 番目のものを返すことになります。
具体的な数字で例を書けば、「B$1="男"」が TRUE である場合、IF 関数は「ROW(B$1)」（B1 セルの行番号）を返すし、「B$50="男"」が TRUE である場合、IF 関数は「ROW(B$50)」を返すということです。つまり第 2 引数は可変であるし、100 本の IF 関数を 1 本にまとめて書いてあると言ってもいいです。ROW は行番号を返す関数なので、「ROW(B$1:B$100)」は「1, 2, ...,99, 100」という 100 個の連続する自然数から成る配列であるわけです。
このように第 2 引数を可変にしながら、第 3 引数が選ばれた場合と合わせて 100 個の整数を IF 関数が返しておけば、その 100 個の中から SMALL 関数がただ 1 つの整数を選ぶときに、「男」に該当していた配列の要素については、一つひとつバラバラの整数になっていることになります。
SMALL 関数の第 3 引数は順位を指定しますが、それが「ROW()」と書かれているため、この数式が記入されているセルの位置に応じて、異なる順位が指定されていることとなっています。つまり IF 関数が返した配列のうち B 列において「男」に該当していた各要素がバラバラの整数になっていれば、SMALL 関数は A 列から、「一意に」1 以上 100 以下の行番号のセルを選ぶことができることになります。
具体例としては、第 2 引数と第 3 引数の場合を合わせて、IF 関数により「1, 2, 101, 4, 101, 6, 7, 101, 9, 101, ..., 98, 101, 100」といった感じの数列が得られることになりますね？
以上を総合すると、もしも B 列に「男」でない値の記入されているセルが 5 つだけあったとすれば、この数式が記入されているのは C 列なので、C1:C95 には A1:A100 の値のうち B 列が「男」である 95 行のみが行番号の順に表示され、C96:C100 にはラー値「#REF!」が表示される結果となります。
配列は、慣れないと難しいと思います。100 行だと理解しづらいので、5 行とか 10 行とかの規模に修正して試してみるとよいかもしれません。また、数式タブの「数式の検証」機能も利用してください。途中計算の様子が分かります。
