Il programma con cui analizziamo i siti web. Questa pagina spiega come riconoscerlo e come escluderlo.
In breve
- Nome per robots.txt
AgenziaAuditBot- User-Agent
AgenziaAuditBot/1.0 (+https://agenzia-audit-bot.pages.dev/)- Ritmo
- al massimo una pagina al secondo per sito
- robots.txt
- rispettato
- Contatto
- bot@lettorebot.com
Chi siamo
AgenziaAuditBot è il lettore di un'agenzia digitale italiana, che lo usa per l'analisi dei siti web.
Come si riconosce
Si presenta sempre con lo stesso nome: non finge di essere un browser, una persona o un altro bot.
Che cosa legge
Solo pagine pubbliche: la home, poche altre pagine del sito e i file standard per i programmi, come robots.txt e le sitemap. Nessun modulo, nessun clic, nessun accesso ad aree riservate.
Con che ritmo
Chiede al massimo una pagina al secondo per sito, e rallenta se il tuo robots.txt indica un Crawl-delay. Se il sito rifiuta l'accesso o chiede di aspettare, non insiste.
robots.txt
AgenziaAuditBot rispetta robots.txt secondo lo standard RFC 9309. Per escluderlo da tutto il sito aggiungi:
User-agent: AgenziaAuditBot
Disallow: /
Con queste righe il bot legge soltanto il file robots.txt. Puoi anche escludere solo alcune parti, con un Disallow per ogni percorso. Se nel file non c'è un gruppo con il suo nome, vale il gruppo User-agent: *.
Come chiedere l'esclusione
Scrivi a bot@lettorebot.com indicando il dominio del sito. Lo escludiamo dalle analisi senza scadenza, insieme ai suoi sottodomini, anche se robots.txt non cambia.
Che cosa conserviamo
Conserviamo il risultato dell'analisi e una copia delle pagine lette, in archivi privati. Per chiederne la cancellazione scrivi all'indirizzo qui sopra.