Was ist Natural Language Processing?

Auf Deutsch heißt es auch Verarbeitung natürlicher Sprache. Das Machine-Learning-Glossar von Google definiert NLP als das Fachgebiet, Computern beizubringen, mithilfe linguistischer Regeln zu verarbeiten, was ein Nutzer gesagt oder geschrieben hat. Im nächsten Satz heißt es, dass fast alles moderne NLP auf Machine Learning beruht.

Google grenzt außerdem Natural Language Understanding (NLU) ab: einen Teilbereich von NLP, der die Absicht hinter dem Gesagten oder Geschriebenen bestimmt. Laut Glossar kann NLU darüber hinaus Kontext, Sarkasmus oder Stimmung berücksichtigen.

NLP ist das Fachgebiet, keine Modellart. Ein Sprachmodell ist nach Google ein Modell, das die Wahrscheinlichkeit schätzt, mit der ein Token oder eine Tokenfolge in einer längeren Folge vorkommt. Ein LLM ist mindestens ein Sprachmodell mit sehr vielen Parametern. LLMs sind also eine Modellfamilie innerhalb von NLP. Viele Aufgaben des Fachs wurden schon gelöst, bevor es sie gab.

Der erste Schritt ist die Tokenisierung. Dan Jurafsky und James H. Martin beschreiben sie in ihrem Lehrbuch „Speech and Language Processing“ als erste Stufe von NLP: Der Eingabetext wird in Tokens zerlegt. Ein Token kann ein Wort, ein Zeichen oder ein Wortteil sein. Moderne Tokenizer lernen selbst Token-Mengen, die auch Einheiten unterhalb des Worts enthalten, sogenannte Subword-Tokens. Laut Lehrbuch sind Byte-Pair Encoding (BPE) und Unigram Language Modeling die beiden verbreitetsten Verfahren in heutigen Sprachmodellen. Ein Beispiel zur Veranschaulichung, nicht die Ausgabe eines bestimmten Tokenizers: „Kundenzufriedenheit“ könnte in „Kunden“, „zufrieden“ und „heit“ zerfallen.

Danach werden aus Tokens Zahlen. Yoshua Bengio und Kollegen schlugen 2003 vor, für jedes Wort eine verteilte Repräsentation zu lernen, sodass ein Trainingssatz dem Modell etwas über viele bedeutungsähnliche Sätze verrät. Tomas Mikolov und sein Team stellten 2013 Architekturen vor, die kontinuierliche Wortvektoren aus sehr großen Datenmengen berechnen. Solche Vektoren sind Embeddings: Zahlenlisten, mit denen das Modell Bedeutungen vergleicht.

Auf dieser Grundlage löst NLP konkrete Aufgaben. Jurafsky und Martin schreiben, Klassifikation stehe im Zentrum der Sprachverarbeitung; Beispiele sind Spam-Erkennung und Sentiment-Analyse. Named Entity Recognition weist Wörtern oder Wortgruppen Etiketten wie PERSON, ORT oder ORGANISATION zu. Maschinelle Übersetzung ist laut Lehrbuch wahrscheinlich eine der häufigsten Anwendungen von NLP-Technik. Das Zusammenfassen von Texten nennt dasselbe Lehrbuch als Aufgabe ohne eine einzige richtige Antwort.

Der Weg dorthin hatte drei Phasen. Nach Jurafsky und Martin dominierten symbolische, regelbasierte Ansätze ungefähr von 1965 bis Anfang der 1990er-Jahre. Ein Beispiel ist ELIZA, das Joseph Weizenbaum 1966 vorstellte: Das Programm zerlegte Sätze nach Regeln, die durch Schlüsselwörter ausgelöst wurden. Danach kehrte das Fach zu statistischen und neuronalen Modellen zurück. Forscher von IBM stellten 1990 einen statistischen Ansatz für maschinelle Übersetzung vor, 2003 folgte Bengios neuronales Sprachmodell. 2017 präsentierten Ashish Vaswani und Kollegen den Transformer, eine Architektur für neuronale Netze, die laut Lehrbuch für die Übersetzung erfunden wurde und schnell zur Allzweck-Architektur wurde.

Die Google-Suche nutzt NLP. Am 25. Oktober 2019 kündigte Pandu Nayak im Google-Blog an, dass Google BERT für das Ranking und für Featured Snippets einsetzt. Google beschreibt BERT als auf neuronalen Netzen beruhende Technik für das Vortraining im NLP. Laut der Ankündigung sollte BERT helfen, jede zehnte Suche in den USA auf Englisch besser zu verstehen. Die Zahl stammt von 2019 und gilt nur für diesen Markt und diese Sprache. In seinem Leitfaden zu den Ranking-Systemen, aktualisiert am 10. Dezember 2025, beschreibt Google BERT als KI-System, mit dem es versteht, wie Wortkombinationen unterschiedliche Bedeutungen und Absichten ausdrücken. MUM versteht und erzeugt laut demselben Leitfaden Sprache; Google setzt es für bestimmte Anwendungen ein und nicht für das allgemeine Ranking.

Welches Gewicht diese Systeme im Ranking haben, sagt Google nicht. Ablesen lässt sich der Zweck: Die Suchmaschine wertet die Wortkombination einer Anfrage aus, nicht nur einzelne Wörter.

Im Marketing steckt NLP in vielen Werkzeugen: in der Sentiment-Analyse von Bewertungen, in der Einordnung von Kundenanfragen, in Chatbots und in der maschinellen Übersetzung. Das Google-Glossar zählt Kontext und Sarkasmus zu den schwierigen Seiten der Sprache, und genau dort lohnt es sich, solche Werkzeuge zu testen.

• Begriffe trennen: NLP ist das Fachgebiet, ein Sprachmodell eine Modellart und ein LLM ein sehr großes Sprachmodell.
• Ein Sentiment-Werkzeug an einer eigenen, von Hand geprüften Stichprobe testen, bevor Sie seinen Zahlen trauen.
• Maschinelle Übersetzungen vor der Veröffentlichung in der Zielsprache prüfen, besonders Produktnamen und Rechtsbegriffe.
• Seiten als Antwort auf die vollständige Frage formulieren, nicht für eine Liste von Keyword-Varianten.

• NLP und LLM gleichsetzen.
• Die BERT-Zahl von 2019 als aktuellen Wert oder als Wert für Deutsch lesen.
• Annehmen, ein Werkzeug erkenne Ironie zuverlässig, weil es einfache Sätze richtig einordnet.
• „Für BERT optimieren“ wollen, obwohl weder die Ankündigung von 2019 noch der Leitfaden zu den Ranking-Systemen eine eigene Optimierung für dieses System beschreibt.
• Glauben, NLP verstehe Text wie ein Mensch. Es rechnet mit Tokens und Vektoren.