Webcrawler


Webcrawler – Definition & Erklärung

lexikon und glossar Information

Ein Webcrawler (eng. Webcrawler = Web-Kriecher) ist eine automatisierte Software zum Einlesen von Inhalten & Webseiten im Internet. Suchmaschinen wie Google nutzen einen solchen Crawler um Webseiten zu finden, die Inhalte zu lesen und anschließend auszuwerten. Ein anderer Begriff für den Webcrawler ist auch Spider, Webbot oder Robot. Der Crawler arbeitet mit Hilfe von Webdesignern & Webmastern und deren ROBOTS.TXT und SITEMAP.XML Dateien – so kann beispielsweise dem Crawler nicht gestattet sein, bestimmte Unterseiten zu indexieren bzw. zu betreten.

Mehr dazu:
Google-Crawler Searchconsole Webseite


Zurück zum Lexikon-Index

Homepage-nach-Preis
Homepage-nach-Preis

Homepage-nach-Preis DE ist eine Werbeagentur für Onlinemarketing und aktiv in der Webentwicklung tätig. Spezialisierungen wie Suchmaschinenoptimierung (SEO), Webdesign und Conversion sind feste Bestandteile des Unternehmens..

View admin Posts