以前RTX1000とXPで行っていました
当時はXPメインモードでの設定例が公開されていたのですが
その後YAMAHAでもVPNクライアントを発売したせいか
現在該当資料を探しても見つからないようです
（以前はここにSSH Sentinel と Windows設定があった）
http://www.rtpro.yamaha.co.jp/RT/docs/example/vpnclient/vpn_client.html
設定的に問題になるのは数点の設定項目だったと思いますが
以前使っていたconfigの残骸が残っていましたので
其処だけ転載しておきます（※ RTX1000のです）
適当に直してください
RTX1000のLAN側セグメントを192.168.1.0/24で構築してます
tunnel select 2
ipsec tunnel 102
ipsec sa policy 102 2 esp 3des-cbc md5-hmac
ipsec ike duration ipsec-sa 2 3600
ipsec ike encryption 2 3des-cbc
ipsec ike group 2 modp1024
ipsec ike local id 2 192.168.1.0/24
ipsec ike pre-shared-key 2 text パスワード
ipsec ike remote address 2 XP側グローバルIP
ipsec ike remote id 2 XP側グローバルIP
ipsec auto refresh 2 on
ip tunnel intrusion detection in on
ip tunnel intrusion detection out on
tunnel enable 2
Windows側の設定は～～ すぐ思い出せない
気が向いたら調べてみます
（データも残ってないので余り当てにしないでください）
お礼
YAMAHAからの回答は現在Windows標準機能との接続テストはしていないとのことで、ヒントはいだだけませんでした。 Windows側のルータにIpsecパススルーが未設定だったので、nat descripterを設定するもダメ。 たびたびトライしたもののやっぱりダメでした・・・。 ちょっと悔しいですが、RT107e側にWindows Serverがあるので、当面こちらをPPTPサーバーに設定して乗り切ることにしました。 ありがとうございました。
補足
丁寧なご回答ありがとうございます。 設定サンプルは参考になり、助かります。SPIの記述以外は同じにしてチャレンジしてみましたが、うまくいきませんでした。 WinXP側のルータにIPsecパススルーが設定されていないことに気づき、設定を追加しても変わらず。 繰り返しファイヤーウォールや設定値を見直してトライしてみるもののどうにも接続できませんでした。 同じ107eでアグレッシブモードのYMS体験版との接続はいとも簡単にできているのになぁ・・。 YAMAHAにもルータ同士・YMSでしか接続できないのか問い合わせを出してみました。 もう少しトライして、このスレッドでご報告したいと思います。