Crawler

Was ist ein Crawler?

Crawler sind Computerprogramme, die automatisch das Internet durchforsten und Webseiten analysieren. Man spricht in diesem Zusammenhang auch von Webcrawlern. Auch Spider oder Searchbot sind Namen für solche Programme.

Wozu braucht es Crawler?

Mittlerweile gibt es Abermillionen an Internetseiten. Aus diesen Massen die richtigen und relevanten Seiten herauszufiltern, ist eine Aufgabe. Auch für die Anbieter von Suchmaschinen. Deshalb haben sie Programme entwickeln lassen. Denn diese können die Webseiten viel schneller erfolgreich analysieren und sortieren, als es Menschen könnten. Die Crawler graben sich durch die Massen an Webseiten und analysieren die Inhalte. Diese ordnen sie dann bestimmten Keywords im Index zu und sorgen dafür, dass User zu ihren Suchanfragen immer passende Webseiten vorgeschlagen bekommen.

Suchst du also nach „Wassermelonen“, ist es den Crawlern zu verdanken, dass du keine Webseiten zur Kartoffelernte angezeigt bekommst.

Und ganz nebenbei räumen die Crawler auch noch hinter uns her, indem sie geänderte Webseiten aktualisieren oder nicht mehr existierende Webseiten aufdecken.

Warum sollte ich mich mit Crawlern beschäftigen?

Das oberste Ziel eines jeden Webseitenbetreibers sind ein hoher Traffic und noch mehr Conversions. Aber wie will man gute Besuchern anziehen, wenn man immer in den falschen Suchanfragen auftaucht. Ich sag nur Wassermelonen und Kartoffeln.

Wer also bei relevanten Suchanfragen angezeigt werden will, sollte sich mit den Crawlern anfreunden. Mit kleinen Tricks kannst du den Crawlern ihre Arbeit erleichtern und deine Chancen erhöhen, der richtigen Zielgruppe angezeigt zu werden.

Wie funktionieren Crawler überhaupt?

Im Grunde genommen sollen Crawler das Verhalten von Menschen imitieren. So nutzen sie beispielsweise Hyperlinks, um von Webseite zu Webseite zu gelangen. Sie klicken sich also durch. Kommt dir das bekannt vor? Wenn du also interne, aber auch ausgehende Links in deine Webseite integrierst, kommst du den Crawlern schon einmal ein Stück entgegen.

Crawler arbeiten aber nicht alleine. Sie sind an einen Index gekoppelt und folgen Regeln, die ihnen bei der Programmierung auferlegt wurden. Diesen Regeln folgend leisten sie ihre Arbeit und nehmen dann Webseiten in ihren Index auf. So können diese Webseiten überhaupt erst in den Suchanfragen bzw. den Ergebnissseiten auftauchen. Je besser deine Seite also im Index hinterlegt ist, desto mehr Chancen hast du, gefunden zu werden.

Wie kann ich die Crawler begeistern?

Wie bereits gelernt, sollen Crawler das Verhalten von Menschen imitieren. Da sie aber beispielsweise keine Bilder sehen können, sind ALT Tags eine hilfreiche Sache. Auch gut platzierte und formulierte Headings, machen den Crawlern das Leben leichter. Auch eine passende Meta Description ist ein gutes Werkzeug. Ganz allgemein gilt: Sei klar strukturiert und formuliert. Je deutlicher du aufzeigst, worum es auf deiner Seite geht, desto besser können die Crawler deine Seite analysieren und einordnen.

Aber Vorsicht! Crawler sind keine Programme, die in irgendeinem Keller geschrieben wurden. Sie sind mittlerweile hochkomplexe Algorithmen, die so einige Tricks durchschauen.  Wer denkt, er kommt mit massenhaft Keywords auf der Webseite  in zahlreiche Suchanfragen, der hat sich getäuscht. Crawler durchschauen das so genannte Keyword Stuffing und strafen es mitunter auch gnadenlos ab. Wer also nicht auf Seite 5 der Suchergebnisse landen will, sollte auf wahllose und unpassende Keywords verzichten. Hier gilt Qualität über Quantität.

Das Wichtigste beim Gestalten einer Webseite ist die Balance. Du musst du Balance finden zwischen einer „Crawler-freundlichen“ Webseite und einer, die für die menschlichen Leser relevant ist. Denn sein wir einmal ehrlich: was bringt es dir, die beste Position in den Suchergebnissen zu haben, wenn die User den Besuch deiner Webseite direkt wieder abbrechen, weil sie unattraktiv ist? Achte also auf einen guten Lesefluss, ein attraktives Äußeres und eine leichte Navigation. Die Crawler bemerken übrigens auch solche Aspekte.

Manchmal brauchen die Crawler ein wenig Zeit, um deine gesamte Webseite zu durchforsten. Wem das zu lange dauert, der kann mit Hilfe der Google Search Console die Arbeit der Crawler inklusive des Indexierens ein wenig beschleunigen. Und nicht nur dafür kann man die Search Console gut verwenden. Wofür du das Programm alles verwenden kannst und wie das Ganze überhaupt ist, haben wir für dich hier ausführlich zusammengefasst.