KI-Crawler

Was ist Meta-ExternalAgent?

Meta-ExternalAgent ist der Crawler für KI-Trainingsdaten von Meta. Collects pages to train Meta's Llama models.

Was macht Meta-ExternalAgent mit Ihren Inhalten?

Collects pages to train Meta's Llama models. Wie die meisten KI-Crawler liest Meta-ExternalAgent Ihre Seiten als reines HTML — er führt kein JavaScript aus — Inhalte, die erst nach dem Ausführen von Skripten erscheinen, sind für ihn also unsichtbar.

Sollten Sie Meta-ExternalAgent blockieren?

Das ist eine echte Abwägung. Meta-ExternalAgent zuzulassen lässt künftige Modelle von Meta lernen, dass es Ihr Unternehmen gibt — nützlich, wenn Kunden diese Modelle später um Empfehlungen bitten. Ihn zu blockieren hält Ihre Inhalte aus den Trainingsdaten heraus, zum Preis genau dieser künftigen Sichtbarkeit. Keine der beiden Antworten ist falsch; es hängt davon ab, was Ihnen wichtiger ist.

Wie erlauben oder blockieren Sie Meta-ExternalAgent in der robots.txt?

Fügen Sie einen dieser Ausschnitte in die robots.txt im Wurzelverzeichnis Ihrer Website ein. Der erste erlaubt Meta-ExternalAgent ausdrücklich überall; der zweite blockiert ihn vollständig.

# Meta-ExternalAgent erlauben
User-agent: Meta-ExternalAgent
Allow: /

# Meta-ExternalAgent blockieren
User-agent: Meta-ExternalAgent
Disallow: /

Reicht die robots.txt aus?

Nicht immer. CDNs und Firewalls (insbesondere Cloudflare) können Crawler auf Netzwerkebene blockieren, ganz gleich was die robots.txt sagt — Cloudflare blockiert KI-Crawler bei vielen Konten standardmäßig. Wenn Meta-ExternalAgent Ihre Website erreichen soll, prüfen Sie auch die Bot-Einstellungen Ihres CDN. Der kostenlose SeeGeo-Audit prüft beides.

Wie schneidet Meta-ExternalAgent im Vergleich zu ähnlichen Crawlern ab?

Meta-ExternalAgent ist einer von 16 Crawlern, die der SeeGeo-Audit einzeln prüft. Die nächstliegenden Vergleiche:

CrawlerBetreiberRolleFührt JavaScript aus?
Meta-ExternalAgentMetaCrawler für KI-TrainingsdatenNein
GPTBotOpenAICrawler für KI-TrainingsdatenNein
ClaudeBotAnthropicCrawler für KI-TrainingsdatenNein
Google-ExtendedGoogleCrawler für KI-TrainingsdatenNein
CCBotCommon CrawlCrawler für KI-TrainingsdatenNein

Alle 16 Crawler im Vergleich · Was ist ein KI-Crawler?

Warum zählt der Crawler-Zugang? Die Zahlen

Beim Crawler-Zugang beginnt oder endet KI-Sichtbarkeit: Ein blockierter Crawler kann Sie nicht lesen, und eine KI, die Sie nicht lesen kann, kann Sie nicht empfehlen.

  • Besucher, die über KI-Assistenten kommen, konvertieren im Schnitt rund 4,4-mal besser als klassische organische Suche (Semrush, branchenübergreifend, 2026).
  • Verweise von KI-Assistenten machen weiterhin nur etwa 1 % des gesamten Web-Traffics aus — wenig, aber der am schnellsten wachsende gemessene Akquisekanal (mehrere Studien 2026).
  • Adobe Digital Insights (Q1 2026) maß bei KI-Besuchern eine um 42 % bessere Conversion als bei Nicht-KI-Traffic — eine vollständige Umkehr gegenüber dem Vorjahr.
  • Cloudflare blockiert KI-Crawler bei vielen Konten standardmäßig, sodass Websites oft für KI unsichtbar sind, ohne dass jemand das entschieden hätte.
  • Allein inhaltliche Änderungen — Statistiken, Quellen, zitierfähige Struktur — können die KI-Sichtbarkeit um rund 30–40 % erhöhen (Princeton-GEO-Studie, KDD 2024).

Frequently asked questions

Was ist Meta-ExternalAgent?

Meta-ExternalAgent ist der Crawler für KI-Trainingsdaten von Meta. Collects pages to train Meta's Llama models.

Sollte ich Meta-ExternalAgent blockieren?

Das ist eine echte Abwägung. Meta-ExternalAgent zuzulassen lässt künftige Modelle von Meta lernen, dass es Ihr Unternehmen gibt — nützlich, wenn Kunden diese Modelle später um Empfehlungen bitten.

Führt Meta-ExternalAgent JavaScript aus?

Nein. Meta-ExternalAgent liest wie die meisten KI-Crawler rohes HTML, ohne JavaScript auszuführen. Wenn Ihre Inhalte nur clientseitig gerendert werden, sind sie für ihn faktisch unsichtbar.

Is your site readable to AI right now? SeeGeo's free audit checks crawler access (all 16 bots), structure, and content extractability in about a minute.

Run a free audit

Related