SEO

クローラー対策:robots.txtの仕組みと使い方とは

投稿日:

robot

Google検索エンジン最適化スターターガイド」でSEOの基礎学習をしていきます。

今回は「robots.txtを効果的に設定しよう」についてアウトプットしていきます。

robots.txtとは?

robots.txtとは、検索エンジンに対して

クロールするかどうかを導くためのファイルです。

robots.txtでスクロールを許可しない設定になっている

URLには、検索結果に表示されません。

使い方は、robots.txtという名前で

各Webサイトのルートディレクトリに置きます。

そうすると、検索エンジンが認識できます。

robots.txt の書き方

robots.txt の書き方は決まっています。

「User-agent」と「Disallow」という二つのキーワードを

組み合わせてクロールの許可および拒否を設定します。

具体的な記載の仕方は、Googleサポートをご覧ください。

ネットビジネス的にはあまり関係ない

通常のブログ使用において、robots.txt はほとんど意識する必要はありません。

またネットビジネスの場合は、情報発信してお金を稼ぐわけですから、

検索結果に載せないで選択肢はほとんどないでしょう。

このブログを読んでいる方のほとんどはrobots.txtを意識する必要はありません。

私も全く意識していません。

robots.txt以外にも検索エンジンにクロールさせない方法はある

robots.txt に書き込む以外にも、検索エンジンにクロールさせない方法はあります。

・noindexメタタグを記載する

・ .htaccessファイルを作る

などです。ここでは詳しく述べませんが、興味がある方は調べてみてください。

それぞれ設定方法を間違うと、検索エンジンにとっても管理者にとっても

不利益なことになってしまいますので、よく理解した上で対応するようにしましょう。

基本的にネットビジネスでブログを運営する程度であれば、あまり関係のない話です。

みそごろうメルマガ

-SEO

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

モバイルSEO:Googleモバイル検索へのインデックス

「Google検索エンジン最適化スターターガイド」でSEOの基礎を学習する。 今回は「モバイルサイトをGoogleに知らせよう」についてのアウトプットです。 スマホでの検索はGoogleモバイル検索が …

はてなブログのサイトマップURLとウェブマスターツール登録方法

  サイトマップをウェブマスターツールに登録することは、 検索エンジンに自己紹介をするようなものです。 「私のサイトにはこういう記事があります。」 サイトマップで検索エンジンに宣言することが …

コンテンツの話:見出しタグの使い方

「Google検索エンジン最適化スターターガイド」でSEOの基礎学習を。 今回は「見出しタグを適切に使おう」について、アウトプットしていきます。 見出しタグには6種類 見出しタグは全部で6種類あります …

ウェブマスターツール「Fetch as Google」でインデックススピードを早める裏ワザ

作りたてのサイトはインデックスされるのに時間がかかります。 記事を公開してから、インデックスされるまでに数日を要する場合も。   インデックスが遅い間はそれを見越した記事を投稿していくのです …

コンテンツの話:画像最適化!alt属性の使い方とは

「Google検索エンジン最適化スターターガイド」でSEOの基礎学習。 今回は「画像の利用を最適化しよう」について、アウトプットしていきます。 画像につけられるalt属性とは 画像を埋め込む際に、al …

プロフィール:みそごろう

元日立系のシステムエンジニア。
脱サラして東京から妻子と田舎へ。

自己投資に1000万円以上つぎ込み、ネットビジネスで起業を決意。
完全に0から月収10万→150万→そして今ではサラリーマンの年収をゆうに超える額の月収を稼ぐまでに。不動産収入など不労所得を増やす投資実践をしながら、田舎で家族と自由でストレス軽めな生活を送っています。

子供に仕事内容を堂々と話せる、健全なネットビジネスを第一に実践中。ネットビジネスや田舎起業のことでしたら何でも下記のフォームからご質問下さい。

実績

【ブログ】
月収:¥118,056

【メルマガ(情報発信)】
2015年
企画販売開始3分で完売。月収150万。
2016年
年収1000万以上。

【指導実績】
月収20万以上…3名
月収10万以上…7名
月収5万以上…多数
日給3万…妻

検索

follow us in feedly

・強力な媒体×100記事未満で月10万稼ぐ術
・3年間のノウハウコレクターから
 10万→150万と一気に駆け上がったワケ
・Yahoo!に掲載される良質メディアを作る術

これら全てを無料メール講座に登録して手に入れて下さい。500ページを超えるマニュアルもプレゼント中。