User-agent: linkCheck # nur fuer linkcheck # Leerzeile beginnt neuen Datensatz User-agent: * # fuer alle spider Disallow: /cgi-local/ # fuer alle spider gesperrt Disallow: /cgi-bin/ # fuer alle spider gesperrt Disallow: /stats/ # fuer alle spider gesperrt Disallow: /logs/ # fuer alle spider gesperrt Disallow: /intern/ # fuer alle spider gesperrt