- 締切済み
検索エンジンのクロール挙動について
a.html b.html c.html 3つのファイルが存在するとします。 そして、a.htmlはb.htmlへリンクしており、b.htmlはc.htmlへのリンクがあると仮定します。 また、a.htmlは既にgoogleなど検索エンジンで定期的にクロールがきているものとします。 その場合 a.htmlのメタタグ <meta name="robots" content="INDEX,FOLLOW"> b.htmlのメタタグ <meta name="robots" content="NOINDEX,FOLLOW"> c.htmlのメタタグ <meta name="robots" content="INDEX"> とした場合、 c.htmlはクロール対象となりうるのでしょうか。 少々わかりにくい質問ですが、回答お待ちしております。
- みんなの回答 (1)
- 専門家の回答
みんなの回答
noname#83877
回答No.1
基本的に何もしていしなければクロールの対象となるのではないでしょうか。 bの場合も、その指定ではじくロボットもいれば、メタタグを無視してクロールするロボットもいると思いますのであまり当てになりません。