Eine Textdatei, die festlegt, welche Bereiche einer Website gecrawlt werden dürfen. Diese wird im Stammverzeichnis einer Website der Datei hinterlegt und die Bots der Suchmaschinen halten sich an die Anweisungen.
Hilfe-Center
Eine Textdatei, die festlegt, welche Bereiche einer Website gecrawlt werden dürfen. Diese wird im Stammverzeichnis einer Website der Datei hinterlegt und die Bots der Suchmaschinen halten sich an die Anweisungen.