AISEORadarBot
Crawlerul nostru accesează un site doar când cineva pornește explicit un audit pe el. Se identifică onest și respectă regulile de politețe de mai jos.
User-agent
AISEORadarBot/1.0 (+https://aiseo.megzo.biz/bot)Ce face
Când cineva pornește un audit pentru un site, AISEORadarBot citește robots.txt, sitemap-ul și un număr limitat de pagini interne: cel mult 5 la auditul gratuit, cel mult 25 la Raportul Pro.
Pentru o singură verificare (accesibilitatea per user-agent) trimitem câte o cerere cu șirurile user-agent ale crawlerelor AI cunoscute (GPTBot, ClaudeBot, PerplexityBot etc.); practică standard de audit, ca să detectăm blocările pe user-agent. Toate celelalte cereri folosesc user-agent-ul nostru propriu.
Reguli de politețe
- Respectăm robots.txt pentru token-ul AISEORadarBot
- Cel mult 1 cerere pe secundă per gazdă
- Limită de pagini per audit (5 gratuit / 25 Pro)
- Timeout de 10 secunde per cerere; nu reîncercăm agresiv
Cum ne blochezi
Adaugă în robots.txt următoarele două linii. Le respectăm imediat, fără excepții:
User-agent: AISEORadarBot
Disallow: /Contact
Întrebări sau sesizări despre crawler? Scrie-ne la audit@megzo.biz și răspundem rapid.