Was ist generative KI?

Google beschreibt generative KI in seiner Einführung in das maschinelle Lernen als Klasse von Modellen, die aus einer Nutzereingabe Inhalte erzeugt. Sie kann verschiedene Eingaben verarbeiten und verschiedene Ausgaben erzeugen, etwa Text, Bilder, Audio und Video. Die Eingabe heißt Prompt; wie man ihn formuliert, beschreibt der Eintrag Prompt Engineering.

Der Unterschied zu anderem Machine Learning liegt in der Ausgabe. Ein Spamfilter ordnet eine E-Mail einer Klasse zu, ein Gebotssystem schätzt eine Wahrscheinlichkeit. Ein generatives Modell gibt etwas Neues aus, das es so in den Trainingsdaten nicht gab.

Die KI-Verordnung der EU nennt in Erwägungsgrund 99 große generative KI-Modelle ein typisches Beispiel für KI-Modelle mit allgemeinem Verwendungszweck, weil sie Inhalte flexibel erzeugen, etwa als Text, Audio, Bild oder Video, und sich so für viele verschiedene Aufgaben eignen. Das BSI ordnet generative KI-Modelle ebenfalls als Teilgebiet dieser universell einsetzbaren Modelle ein.

Ein generatives Modell lernt im Training, wie die Daten aufgebaut sind, mit denen es trainiert wird. Danach erzeugt es neue Beispiele, die diesem Aufbau folgen. Drei Arbeiten stehen für die heute verbreiteten Ansätze.

Ian Goodfellow und Kollegen stellten 2014 die Generative Adversarial Networks vor. Dabei werden zwei Modelle gleichzeitig trainiert: eines erzeugt Daten, das andere schätzt, ob ein Beispiel aus den Trainingsdaten stammt oder aus dem Generator.

Ashish Vaswani und Kollegen stellten 2017 den Transformer vor, eine Architektur, die ausschließlich mit Aufmerksamkeitsmechanismen arbeitet. Sie testeten ihn an maschineller Übersetzung. Wie ein Sprachmodell daraus Text erzeugt, Token für Token, erklärt der Eintrag LLM.

Jonathan Ho, Ajay Jain und Pieter Abbeel zeigten 2020 hochwertige Bildsynthese mit Diffusionsmodellen. Diese Modelle lernen, Rauschen schrittweise aus einem Bild zu entfernen, und erzeugen so aus reinem Rauschen ein neues Bild.

Für Audio und Video gilt dasselbe Prinzip mit anderen Daten. Manche Modelle verbinden mehrere Arten: Sie nehmen zum Beispiel ein Bild und einen Text als Eingabe und erzeugen ein Video.

Im Marketing erzeugt generative KI Entwürfe für Texte, Bildvarianten, Übersetzungen, Zusammenfassungen und gesprochene Fassungen. Google schreibt in seiner Anleitung zu KI-generierten Inhalten, generative KI könne besonders bei der Recherche zu einem Thema nützlich sein und dabei, eigenen Inhalten eine Struktur zu geben.

Für die Suche zieht Google die Grenze beim Zweck, nicht beim Werkzeug. Im Februar 2023 schrieb Google, dass nicht jede Automatisierung Spam ist, auch nicht die Erzeugung mit KI. Die Spam-Richtlinien nennen als Missbrauch skalierter Inhalte, viele Seiten vor allem zur Manipulation des Rankings zu erzeugen, und führen als erstes Beispiel den Einsatz generativer KI, um viele Seiten ohne Mehrwert für die Nutzer zu erstellen.

Generative Modelle erzeugen plausible Ausgaben, keine geprüften. Das BSI nennt Halluzinationen ein großes Problem, weil die Ausgaben meist glaubhaft wirken, bis hin zu erfundenen Quellenangaben.

Dazu kommen zwei Rechtsfragen. Nach Art. 50 Abs. 2 der KI-Verordnung müssen Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, die Ausgaben maschinenlesbar kennzeichnen; Fristen und Pflichten der Verwender beschreibt der Eintrag Kennzeichnung KI-generierter Inhalte. Und wer Inhalte online veröffentlicht, kann sich das Text- und Data-Mining nach Art. 4 Abs. 3 der DSM-Richtlinie (EU) 2019/790 maschinenlesbar vorbehalten. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen einen solchen Vorbehalt nach Art. 53 Abs. 1 lit. c der KI-Verordnung ermitteln und einhalten.

• Generative KI für Entwürfe, Varianten und Struktur nutzen und jede Tatsachenbehauptung vor der Veröffentlichung an der Quelle prüfen.
• Zahlen, Zitate und Quellenangaben aus einer KI-Ausgabe nie ungeprüft übernehmen.
• Eigene Erfahrung, Daten und Beispiele ergänzen, die das Modell nicht kennen kann.
• Festhalten, welche Inhalte mit welchem Werkzeug entstanden sind, um Kennzeichnungspflichten nachkommen zu können.
• Vor dem Einsatz klären, ob Eingaben vertrauliche oder personenbezogene Daten enthalten und was der Anbieter mit ihnen macht.
• Den eigenen Umgang mit Text- und Data-Mining festlegen und einen Vorbehalt, falls gewünscht, maschinenlesbar erklären.

• Generative KI mit einer Suchmaschine verwechseln und ihre Antworten als geprüfte Fakten behandeln.
• Viele Seiten automatisch erzeugen, die keinen Mehrwert haben, in der Annahme, Google erkenne es nicht.
• Generative KI mit Sprachmodellen gleichsetzen und Bild-, Audio- und Videomodelle übersehen.
• KI-generierte Bilder realer Personen oder Orte veröffentlichen, ohne die Kennzeichnung zu prüfen.
• Kundendaten oder Vertragsinhalte in ein öffentliches Werkzeug eingeben, ohne die Nutzungsbedingungen zu kennen.