######################################################### # Fichier autorisant ou non la visite des robots de recherche Web ######################################################### # Pour connaitre les visites d'un robot, le serveur # doit supporter les User-agent # Rem: Pour limiter les robots au niveau des pages HTML, utiliser : # # # Nom des robots (* pour tous) et restrictions # ######################################################### # robots.txt User-agent: * Allow: /files/awstats.spec Allow: /files/awstats.nsi Allow: /files/webalizeradd.txt Allow: /files/analogadd.txt Allow: /files/testgeoip* Disallow: /files # Disallow: /outils/ # Disallow: /php/ # Disallow: /data/