ai crawlers

Faut-il bloquer les robots d'IA ? Ce que font vraiment GPTBot, ClaudeBot et les autres

Bloquer les bots d'IA semble protecteur, mais cela vous retire des réponses que lisent vos clients. Ce que fait chaque robot, et les deux erreurs les plus courantes.

Réponse courte : pour la plupart des petites entreprises, non — bloquer les robots d'IA vous retire des réponses d'IA sur lesquelles vos clients s'appuient de plus en plus, et les deux blocages que nous voyons le plus souvent en audit sont des malentendus, pas des décisions.

La réponse longue dépend du robot, car « robot d'IA » recouvre trois métiers très différents.

Quels sont les trois types de robots d'IA ?

Les robots d'entraînement (GPTBot, ClaudeBot, Meta-ExternalAgent, CCBot) collectent des pages pour que les futurs modèles sachent que votre entreprise existe. Les bloquer est un vrai arbitrage : votre contenu reste hors des données d'entraînement, et les futurs modèles apprennent vos concurrents à votre place.

Les robots d'indexation pour la recherche (OAI-SearchBot, PerplexityBot) construisent les index en direct derrière la recherche par IA. Bloquez-les et l'IA ne peut pas vous citer, même quand vous êtes la meilleure réponse.

Les récupérateurs à la demande (ChatGPT-User, Claude-User, Perplexity-User) chargent votre page en direct quand un utilisateur pose une question sur vous en pleine conversation. Les bloquer signifie que l'IA répond aux questions sur votre entreprise sans pouvoir vérifier votre site.

Quels blocages sont généralement des erreurs ?

Deux motifs reviennent constamment dans les audits SeeGeo (règles robots.txt selon la RFC 9309) :

Le blocage total. Un User-agent: * / Disallow: / hérité d'un site de préproduction, ou ajouté « pour la sécurité ». Il ne bloque pas que l'IA — il bloque Googlebot. Tout le reste du site cesse de compter tant qu'il n'est pas retiré.

La confusion Google-Extended. Bloquer Google-Extended ne vous retire pas de la recherche Google ni des AI Overviews — ils tournent sur Googlebot. Cela ne vous retire que de l'entraînement des modèles Gemini. L'erreur inverse est pire : certains propriétaires bloquent Bingbot « parce que Bing ne nous intéresse pas », sans réaliser que les assistants IA qui s'appuient sur l'index de Bing — y compris une partie de la recherche de ChatGPT — perdent l'accès aussi.

Quand bloquer est-il le bon choix ?

Des raisons légitimes existent. Les éditeurs dont le contenu est le produit peuvent rationnellement bloquer les robots d'entraînement. Les sites avec des données utilisateur derrière connexion doivent tout bloquer sur les chemins privés. Et toute entreprise peut décider que le principe compte plus que la visibilité. L'essentiel est d'en faire une décision, pas un accident : savoir quels robots vous bloquez, ce que chacun alimente, et ce que vous y perdez.

Comment vérifier ce que vous bloquez en ce moment ?

Trois endroits à regarder, car le robots.txt seul ne raconte pas tout :

  1. robots.txt — lisez les règles réelles par robot (ou lancez un audit SeeGeo, qui évalue individuellement les 16 principaux robots).
  2. Votre CDN — Cloudflare bloque désormais les robots d'IA par défaut pour beaucoup de comptes. Votre robots.txt peut dire « bienvenue » pendant que le pare-feu dit non.
  3. Votre rendu — la plupart des robots d'IA n'exécutent pas JavaScript. Si votre contenu n'apparaît que côté client, vous « bloquez » tous les bots d'IA sans une seule règle.

La vérité inconfortable : beaucoup d'entreprises qui n'ont jamais choisi de rien bloquer sont invisibles pour l'IA quand même. C'est pourquoi notre audit vérifie les trois couches.

Envie de savoir où vous en êtes ? SeeGeo audite votre site pour la recherche et la visibilité IA, puis vous dit quoi corriger — en langage clair.

Lancer un audit gratuit