Zum Inhalt springen

Glossar Kennzeichnung KI-generierter Inhalte

Was ist die Kennzeichnung KI-generierter Inhalte?

Definition

Die Kennzeichnung KI-generierter Inhalte ist der für das Publikum sichtbare oder maschinenlesbare Hinweis darauf, dass ein Text, ein Bild, eine Tonaufnahme oder ein Video mit einem System künstlicher Intelligenz erstellt oder verändert wurde.

Auf dieser Seite 5
  1. Was Kennzeichnen bedeutet und was gekennzeichnet wird
  2. Was das Recht verlangt und was Google verlangt
  3. Warum das wichtig ist
  4. Gute Praxis
  5. Häufige Fehler
Kurz gefasst

KI-Inhalte zu kennzeichnen heißt anzugeben, wie ein Stück entstanden ist, über einen für Lesende sichtbaren Hinweis oder über eine maschinenlesbare Markierung in der Datei.

Was Kennzeichnen bedeutet und was gekennzeichnet wird

Unter einem einzigen Wort leben drei verschiedene Dinge. Das erste ist der sichtbare Hinweis an die Lesenden, etwa Bild erstellt mit künstlicher Intelligenz. Das zweite ist die maschinenlesbare Markierung, die der Anbieter des Modells in die Ausgabe einbettet, damit ein späteres System sie erkennen kann. Das dritte ist die dokumentierte Herkunft, eine signierte Historie, die festhält, womit die Datei aufgenommen oder erzeugt wurde und welche Bearbeitungen danach erfolgt sind.

Die Verfahren entsprechen diesen Ebenen. Die Content Credentials des Standards C2PA bewahren diese signierte Historie in der Datei auf. Unsichtbare Wasserzeichen verändern Pixel, Wellenform oder Wortwahl auf nicht wahrnehmbare Weise, damit das Signal im Inhalt reist und nicht in den Metadaten. Klassische Bildmetadaten in Formaten wie IPTC oder XMP bieten ein Feld für die Beschreibung des Entstehungsprozesses.

Wie gut die einzelnen Ebenen überleben, ist sehr unterschiedlich. Metadaten und eingebettete Manifeste gehen leicht verloren, wenn eine Datei die Verarbeitung einer Plattform, einen Bildschirmabzug oder eine erneute Komprimierung durchläuft, und deshalb greift C2PA selbst auf Wasserzeichen und digitale Fingerabdrücke zurück, um die Datei wieder mit ihrem Nachweis zu verbinden. Keines dieser Verfahren ist ein Detektor: Sie bestätigen, was ein System erklärt hat, nicht, was eine Datei ohne Signal in Wirklichkeit ist.

Was das Recht verlangt und was Google verlangt

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz bündelt die Transparenzpflichten in Artikel 50, anwendbar seit dem 2. August 2026. Absatz 2 verpflichtet Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, die Ausgabe in einem maschinenlesbaren Format zu markieren und als künstlich erzeugt oder verändert erkennbar zu machen, soweit dies technisch machbar ist. Für Systeme, die schon vor dem 2. August 2026 in Verkehr gebracht wurden, ist diese Markierung erst ab dem 2. Dezember 2026 Pflicht. Das regelt Artikel 111 Absatz 4 in der Fassung der Verordnung (EU) 2026/1744 vom 8. Juli 2026.

Absatz 4 richtet sich an denjenigen, der das System einsetzt, und verlangt die Offenlegung des künstlichen Ursprungs in zwei Fällen: bei Deepfakes und bei Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Der zweite Fall entfällt, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterlag und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Absatz 5 verlangt, dass die Information klar und unterscheidbar bereitgestellt wird, spätestens zum Zeitpunkt der ersten Konfrontation. In Spanien wird zudem ein Gesetz zur Governance der künstlichen Intelligenz mit Sanktionen für Verstöße gegen die Kennzeichnung beraten, dessen Stand man vor der Veröffentlichung prüfen sollte.

Google ist der Punkt, an dem sich die Branche am häufigsten irrt. Die Dokumentation verlangt keine Kennzeichnung von KI-generierten Inhalten und bestraft keine Seite dafür, dass sie mit einem Modell geschrieben wurde. Was die Spam-Richtlinie sanktioniert, ist der massenhafte Inhaltsmissbrauch, definiert als das Erzeugen vieler Seiten mit dem Hauptzweck, das Ranking zu manipulieren, unabhängig davon, wie sie entstanden sind. Der Leitfaden für hilfreiche Inhalte empfiehlt allerdings, zu erklären, wie ein Stück entstanden ist, wenn Lesende sich das fragen könnten, und stellt das als redaktionelle Empfehlung dar, nicht als Ranking-Anforderung.

Die Pflicht kommt aus dem Recht, nicht von der Suchmaschine.

Warum das wichtig ist

Die Entscheidung, die davon abhängt, ist zweifach. Erstens, ob ein konkretes Stück unter einen Pflichtfall fällt, denn daraus ergeben sich Form, Platzierung und Zeitpunkt des Hinweises. Zweitens, wie viel die Organisation investiert, um den Prozess nachvollziehbar zu halten, was Geld in Arbeitsabläufen und Schulung kostet und was kein Werkzeug allein löst.

Die beiden Ebenen zu trennen verhindert den häufigsten Fehler. Glaubt ein Team, Google verlange den Hinweis, landet am Ende unter jedem Artikel eine allgemeine Fußzeile, die nichts mitteilt und keinen Rechtsfall abdeckt. Und glaubt ein Team, der Hinweis schade dem Ranking, versteckt es den Prozess genau dort, wo das Publikum ihn erwartet, also bei Analysen, Vergleichen oder Nachrichten.

Für eine Redaktion mit mehreren Sprachen und mehreren Märkten kommt ein dritter Effekt hinzu. Die dokumentierte menschliche Überprüfung ist nicht nur die für informierenden Text vorgesehene Ausnahme, sondern auch der einzige Weg, erfundene Behauptungen vor der Veröffentlichung zu entdecken. Der Hinweis beschreibt die Herkunft eines Stücks, während die Überprüfung für dessen Inhalt einsteht.

Gute Praxis

  • Sortiere deine Formate, bevor du irgendeine Richtlinie schreibst: Trenne informierende Stücke zu Angelegenheiten von öffentlichem Interesse, Stücke mit synthetischen Personen oder Stimmen und rein werbliche Stücke, denn die anwendbare Regelung ist nicht dieselbe.
  • Halte die menschliche Überprüfung mit Name, Datum und Umfang des Geprüften fest, denn sie ist die für informierenden Text vorgesehene Ausnahme und wirkt nur, wenn sie belegbar ist.
  • Schreib den Hinweis in das Stück und nicht in eine allgemeine Richtlinie: Lesende müssen ihn beim ersten Kontakt mit dem Inhalt finden, nicht in einem Rechtstext drei Klicks entfernt.
  • Bewahre die Originaldatei mit ihren Herkunftsnachweisen im eigenen Speicher auf, denn die auf einer fremden Plattform veröffentlichte Kopie verliert sie meist.
  • Unterscheide den redaktionellen Hinweis zum Prozess von der Rechtspflicht und erkläre diesen Unterschied dem Content-Team schriftlich, damit niemand nach Gefühl entscheidet.
  • Lass die Pflichtfälle juristisch prüfen, wenn du in mehreren Märkten veröffentlichst, denn die Einordnung hängt von der Art des Inhalts ab und davon, wer die redaktionelle Verantwortung trägt.

Häufige Fehler

  • Zu wiederholen, Google bestrafe KI-Inhalte. Die Richtlinien beziehen sich auf massenhaft erzeugte Inhalte zur Manipulation des Rankings, unabhängig davon, wer oder was sie geschrieben hat.
  • Eine allgemeine Fußzeile auf allen Seiten anbringen und das für Erfüllung halten. Eine Formel, die weder benennt, was erzeugt wurde, noch in welchem Umfang, informiert niemanden.
  • Einen KI-Detektor als Beweis nutzen, für eigene oder fremde Texte. Diese Werkzeuge liefern falsch positive und falsch negative Ergebnisse, und kein Rechtsrahmen erkennt sie als Beweismittel an.
  • Annehmen, ein Bild behalte seine Nachweise nach der Veröffentlichung in einem sozialen Netzwerk, obwohl die Verarbeitung der Plattform die Metadaten meist entfernt.
  • Maschinenlesbare Markierung mit sichtbarem Hinweis verwechseln und nur eines von beiden umsetzen, wenn der Fall beides verlangt.
Manuel Riveiro Rodriguez CEO & Digital Strategist

Eine technische Prüfung sieht sich das und alles Weitere in einem Durchgang an.

Audit anfragen

Häufige Fragen

Bestraft Google mit künstlicher Intelligenz erzeugte Inhalte?

Nicht dafür, dass sie erzeugt wurden. Die Dokumentation stellt auf Qualität ab und nicht auf die Produktionsmethode. Sanktioniert wird der massenhafte Inhaltsmissbrauch, also das Veröffentlichen vieler Seiten mit dem Hauptzweck, das Ranking zu manipulieren, was bei Texten von Menschen wie von Modellen vorkommen kann.

Muss ich die Artikel meines Blogs kennzeichnen?

Das hängt vom Inhalt ab. Die Pflicht zur Offenlegung des künstlichen Ursprungs trifft Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und entfällt bei menschlicher Überprüfung mit übernommener redaktioneller Verantwortung. Ein werblicher Artikel fällt meist heraus, doch die konkrete Einordnung sollte juristisch bestätigt werden.

Seit wann gelten diese Pflichten?

Grundsätzlich seit dem 2. August 2026. Anbieter von Systemen, die synthetische Inhalte erzeugen und schon vor diesem Tag in Verkehr gebracht wurden, haben für die maschinenlesbare Markierung nach Absatz 2 bis zum 2. Dezember 2026 Zeit (Artikel 111 Absatz 4, geändert im Juli 2026). Die Pflichten derjenigen, die das System einsetzen, bei Deepfakes und informierendem Text, gelten seit August.

Taugt ein KI-Detektor als Beweis?

Nein. Diese Dienste schätzen Wahrscheinlichkeiten aus statistischen Merkmalen des Textes und irren sich in beide Richtungen, vor allem bei Übersetzungen und bearbeiteten Texten. Weder das Recht noch die Suchmaschinen erkennen sie als Beweis an, weshalb es riskant ist, darauf eine Anschuldigung oder eine Verteidigung zu stützen.

Überstehen Content Credentials eine Veröffentlichung in sozialen Netzwerken?

Häufig nicht. Die Verarbeitung, die viele Plattformen beim Hochladen anwenden, entfernt Metadaten und eingebettete Manifeste, und ein Bildschirmabzug verliert sie immer. Deshalb greift der Standard auf Wasserzeichen und digitale Fingerabdrücke zurück, die den Nachweis wiederfinden lassen, wenn die Datei nackt ankommt.

Quellen

  1. Verordnung (EU) 2024/1689 über künstliche Intelligenz, konsolidierte Fassung vom 27. Juli 2026 mit der Änderung durch die Verordnung (EU) 2026/1744 (EUR-Lex): Artikel 50 mit den Markierungs- und Offenlegungspflichten, Artikel 111 Absatz 4 mit der Frist 2. Dezember 2026 für bestehende Systeme und Artikel 113 mit dem Geltungsbeginn.
  2. Beitrag von Google zu KI-generierten Inhalten, in dem erklärt wird, dass Qualität zählt und nicht die Produktionsmethode.
  3. Spam-Richtlinien von Google mit der Definition des massenhaften Inhaltsmissbrauchs, die unabhängig von der Entstehungsweise gilt.
  4. Leitfaden für hilfreiche Inhalte, der empfiehlt zu erklären, wie ein Stück entstanden ist, wenn Lesende sich das fragen könnten.
  5. Häufige Fragen von C2PA zu Content Credentials, zum Verlust von Metadaten und zum Einsatz von Wasserzeichen und digitalen Fingerabdrücken.