Difference between revisions of "Archive:Robot Configuration"

m (Mlink-rodrigue moved page Robot Configuration to Archive:Robot Configuration without leaving a redirect: not part of v3)
 
Um eigene Seiten im Internet vor Webcrawlern (Dursuchen von Suchmaschinen) zu schützen, wurde die

Extension: Robot Configuration


Overview
Description: In order to protect own pages on the Internet from web crawlers, the "robots.txt"
eingeführt. Diese Datei befindet sich im Rootverzeichnis des Servers und ist eine Steuerungsdatei für Webcrawler, die Bereiche verbieten oder auch erlauben kann. Sie kommt oft zum Einsatz um den Datentraffic, der durch die Vielzahl von Webcrawlern verursacht wird, zu reduzieren oder auch um gewisse Bereiche für die Webcrawler zu sperren. Weitere Informationen z.B. über den Aufbau dieser Datei erhalten Sie in der
was introduced.
State: stable Dependency:
Developer: Martijn Koster License: -
Type: MediaWiki Category: -
Edition: BlueSpice free
For more info, visit Mediawiki.

Features[edit source]

In order to protect own pages on the Internet from web crawlers, the "robots.txt" was introduced.

This file is located in the root directory of the server and is a web crawler control file that can ban.

It is often used to reduce the data traffic caused by the large number of web crawlers or to block certain areas for the web crawlers.


For further information about  this file, please refer to the Wikipedia.


Attachments

Discussions