Was Google-Extended bedeutet
Die erste Verwechslung, die man ausräumen sollte, betrifft die Kategorie. Google-Extended lädt keine Seiten herunter. Es gibt keinen Bot dieses Namens, der das Web durchläuft, und in den Server-Logs wird nie eine Zeile mit dieser Zeichenkette auftauchen. Wer herunterlädt, ist weiterhin der Googlebot, mit unverändertem Verhalten. Die Kennung regelt die spätere Verwendung von Inhalten, die Google bereits im Index hat.
Dieser Unterschied erklärt, warum die Regel in der robots.txt steht, obwohl sie kein Crawling regelt. Die Datei dient hier als Ort, an dem der Betreiber eine Präferenz festhält, und Google zieht sie heran, wenn es entscheidet, ob dieses Material bestimmte generative Produkte speisen darf. Die Google-Dokumentation hält den feinen Unterschied selbst fest: Die Kennung wird in einer Kontrollfunktion verwendet, nicht als Anfrage.
Die Kontrolle erschien am 28. September 2023, als die betroffenen Produkte noch Bard und Vertex AI hießen. Die Produktnamen wechselten später zur Gemini-Familie, die Kennung behielt jedoch ihren eigenen, weshalb sie heute wenig aussagekräftig wirkt. Man liest sie am besten als «erweiterte Nutzung des bereits Gecrawlten» und nicht als «zweiter Google-Crawler», denn aus dieser falschen Lesart entstehen fast alle fehlerhaften Regeln, die man in der Praxis sieht.