> 爵位はその家の娘がつぐことができるのでしょうか?
一部の例外を除き、継承することはできません。
英国の爵位の大多数は、王がLetters Patentという文書を発行する形式で授けられています。この文書には、誰に対して何という爵位を授けるかという文言と一緒に、その爵位が誰に継承されるかの指定(remainder)も記述されています。通常は、"heirs male of his body lawfully begotten"と書かれていて、継承できる要件は、(1)男子相続人であること(heirs male)、(2)最初に爵位をもらった人の直系子孫であること(of his body)、(3)嫡出である、すなわち正式な婚姻をした両親から生まれていること(lawfully begotten)の三つです。
したがって、娘は爵位の継承権を持ちません。
また、remainderでいう男子相続人(heirs male)というのは、本人が男子というだけの意味ではなく、息子の息子の……息子とたどってたどり着ける男子(男系男子)のことなので、娘の息子の出番もありません。
何代も続いてきた貴族の家で娘しか生まれなかった場合、爵位は弟や甥、従兄弟や再従兄弟など、remainderの要件を満たす男系の血族で最も近い男子が継承します。誰もいなければ死亡時に継承者不在によって爵位は消滅します。
例外的に娘やその子孫が継承できる爵位は、(1)古い時代のスコットランドで授けられた爵位や、(2)Letters Patentが定着する以前に授けられたイングランドの男爵位、(3)特別な継承規定(special remainder)が設定されている爵位などに限られます。
> また、婿をとるという制度はありましたか?
娘の夫が爵位を継承するしくみという意味でしたら、前述の通りなので存在しません。
また、例外的に娘が継承できる爵位の場合でも、ヴィクトリア朝期に夫が妻の爵位を名乗ることはありません。妻が公爵位を継承しても、夫が平民ならただのMrのままです。中世にはjure uxorisといって妻の称号(の男性形)を名乗り、妻に代わって領地を管理する制度があったのですが、近世以降の英国の爵位は土地とのつながりが切れた単なる称号なためか、この種のしくみはなくなっています。