ネットビジネスで起業して稼ぐ!30代妻子持ちが脱サラ田舎暮らし

田舎ネットビジネス起業家みそごろうのブログ

クローラー対策:robots.txtの仕組みと使い方とは

   

robot

Google検索エンジン最適化スターターガイド」でSEOの基礎学習をしていきます。

今回は「robots.txtを効果的に設定しよう」についてアウトプットしていきます。

robots.txtとは?

robots.txtとは、検索エンジンに対して

クロールするかどうかを導くためのファイルです。

robots.txtでスクロールを許可しない設定になっている

URLには、検索結果に表示されません。

使い方は、robots.txtという名前で

各Webサイトのルートディレクトリに置きます。

そうすると、検索エンジンが認識できます。

robots.txt の書き方

robots.txt の書き方は決まっています。

「User-agent」と「Disallow」という二つのキーワードを

組み合わせてクロールの許可および拒否を設定します。

具体的な記載の仕方は、Googleサポートをご覧ください。

ネットビジネス的にはあまり関係ない

通常のブログ使用において、robots.txt はほとんど意識する必要はありません。

またネットビジネスの場合は、情報発信してお金を稼ぐわけですから、

検索結果に載せないで選択肢はほとんどないでしょう。

このブログを読んでいる方のほとんどはrobots.txtを意識する必要はありません。

私も全く意識していません。

robots.txt以外にも検索エンジンにクロールさせない方法はある

robots.txt に書き込む以外にも、検索エンジンにクロールさせない方法はあります。

・noindexメタタグを記載する

・ .htaccessファイルを作る

などです。ここでは詳しく述べませんが、興味がある方は調べてみてください。

それぞれ設定方法を間違うと、検索エンジンにとっても管理者にとっても

不利益なことになってしまいますので、よく理解した上で対応するようにしましょう。

基本的にネットビジネスでブログを運営する程度であれば、あまり関係のない話です。

みそごろうメルマガ

いいね!すると、ゆる~いつぶやきが届きます。
  • このエントリーをはてなブックマークに追加
  • Pocket
  • follow us in feedly

 - SEO

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

次のHTML タグと属性が使えます: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code class="" title="" data-url=""> <del datetime=""> <em> <i> <q cite=""> <strike> <strong> <pre class="" title="" data-url=""> <span class="" title="" data-url="">

  関連記事

newspaper-midashi
コンテンツの話:見出しタグの使い方

「Google検索エンジン最適化スターターガイド」でSEOの基礎学習を。 今回は …

iphone-keitai
モバイルSEO:モバイルユーザーを適切に導く

「Google検索エンジン最適化スターターガイド」でSEOの基礎を学習する。 今 …

google-mobile
モバイルSEO:Googleモバイル検索へのインデックス

「Google検索エンジン最適化スターターガイド」でSEOの基礎を学習する。 今 …

gazou-picture
コンテンツの話:画像最適化!alt属性の使い方とは

「Google検索エンジン最適化スターターガイド」でSEOの基礎学習。 今回は「 …

sitemap-image
はてなブログのサイトマップURLとウェブマスターツール登録方法

  サイトマップをウェブマスターツールに登録することは、 検索エンジン …

Google-accessup
プロモーションと分析:Google推奨の正しいアクセスアップ方法とは

「Google検索エンジン最適化スターターガイド」でSEOの基礎を学習する。 今 …

anchor_text
コンテンツの話:適切なアンカーテキストとは

「Google検索エンジン最適化スターターガイド」でSEOの基礎を学ぶ。 今回は …

navi-top
サイト構造の話:ナビゲーションをパンくずリストやサイトマップで分かりやすく

記事数が増えるほどナビゲーションが重要 今自分がサイトのどの位置にいるのか? 他 …

nofollow-link
クローラー対策:nofollowタグの効果と書き方

「Google検索エンジン最適化スターターガイド」でSEOの基礎学習をしていきま …

wordpress_newpost_title
SEO基礎:ページタイトルはtitleタグで指定する

「Google検索エンジン最適化スターターガイド」でSEOの基礎を学ぶ。 最初の …

Topへ戻る