Crawler, Spider, Robots und BotsIndexsuchdienste verwenden Programme, die das Internet nach Inhalten durchforsten. Dabei hangeln sie sich von Link zu Link und das Ganze Tag und Nacht. Nach einer gewissen Zeit besuchen sie bereits bekannte Webseiten und schauen nach Änderungen. Für diese Datensammelprogramme gibt es verschiedene Bezeichnungen, die immer das Gleiche ausdrücken:
Ein Unterschied der Crawler besteht darin, wie tief/weit sie Verweisen folgen, um Unterseiten automatisch in den Suchmaschinenindex aufzunehmen. Zwei Datensammelprogramme von Google nennen sich GoogleBot und MediaBot.
|