Was llms.txt bedeutet
Der Name ahmt robots.txt nach, und diese Ähnlichkeit stiftet die erste Verwirrung. robots.txt regelt Berechtigungen: Sie sagt einem Crawler, welche Pfade er anfragen darf. Die XML-Sitemap löst die Auffindbarkeit: Sie zählt die URL auf, die der Betreiber gefunden haben will. llms.txt tut weder das eine noch das andere. Sie ist ein Orientierungsverzeichnis in Markdown, gedacht für ein Sprachmodell, das die Website bereits vor sich hat und auf einen Blick verstehen soll, welche Dokumente wichtig sind und wozu jedes einzelne dient. Sie erteilt keine Erlaubnis und sie entzieht keine, sie ordnet nur.
Der Vorschlag stammt von Jeremy Howard und wurde am 3. September 2024 veröffentlicht. Seither zirkuliert er als lebende Spezifikation, inzwischen in einer zweiten Fassung des Textes. Er hat kein Normungsgremium durchlaufen, es gibt kein offizielles Register für die Datei, und keine Suchmaschine hat sie in ihre Crawling-Dokumentation aufgenommen. Sie einen Standard zu nennen, ist ein Kategorienfehler: Sie ist eine Konvention, die ein Autor vorgeschlagen hat und die ein Teil der Community übernommen hat.
Zu trennen ist sie außerdem von llms-full.txt, einem Abzug des gesamten Inhalts in einer einzigen Datei. Diese Variante zirkuliert aus Gewohnheit der Community und steht nicht in der Spezifikation, teilt also nicht einmal die Rückendeckung eines veröffentlichten Dokuments.