Was ist Machine Learning?

Arthur Samuel veröffentlichte 1959 im IBM Journal of Research and Development eine Studie über ein Programm, das Dame spielt. Es lernte, besser zu spielen als der Mensch, der es geschrieben hatte, und brauchte dafür acht bis zehn Stunden Spielzeit auf der Maschine. Samuel schrieb, Computern das Lernen aus Erfahrung beizubringen solle irgendwann einen großen Teil der detaillierten Programmierarbeit überflüssig machen.

Tom Mitchell definierte 1997 in seinem Lehrbuch: Ein Programm lernt aus einer Erfahrung E in Bezug auf eine Klasse von Aufgaben T und ein Leistungsmaß P, wenn seine Leistung bei den Aufgaben in T, gemessen mit P, durch die Erfahrung E besser wird. Sein Beispiel ist wieder das Damespiel: Die Aufgabe ist das Spielen, das Maß der Anteil gewonnener Partien, die Erfahrung sind Partien gegen sich selbst.

Machine Learning ist ein Teil der künstlichen Intelligenz, nicht das Ganze. Die KI-Verordnung der EU nennt in Erwägungsgrund 12 zwei Arten von Techniken für KI-Systeme: Ansätze des maschinellen Lernens, die aus Daten lernen, wie Ziele erreicht werden, und logik- und wissensgestützte Konzepte, die aus kodiertem Wissen ableiten. Deep Learning ist wiederum ein Teil des Machine Learning. Nach LeCun, Bengio und Hinton (2015) lernen dabei Modelle aus mehreren Verarbeitungsschichten Darstellungen von Daten auf mehreren Abstraktionsebenen. Auch ein LLM ist ein solches tiefes Modell, trainiert auf großen Textmengen.

Im Training passt ein Algorithmus die Parameter eines Modells so an, dass seine Ausgaben zu den Trainingsdaten passen. Danach wendet man das Modell auf neue Daten an. Google nennt in seiner Einführung vier Arten: überwachtes, unüberwachtes und bestärkendes Lernen sowie generative KI, die Inhalte erzeugt.

Überwachtes Lernen: Das Modell sieht viele Beispiele, bei denen die richtige Antwort bekannt ist, und erkennt die Zusammenhänge, die zu dieser Antwort führen. Danach kann es für neue Fälle eine Vorhersage treffen. Ein Beispiel sind E-Mails, die als Spam oder Nicht-Spam markiert sind. Daraus lernt ein Filter, neue E-Mails einzuordnen.

Unüberwachtes Lernen: Die Daten haben keine vorgegebenen Antworten. Das Modell sucht selbst nach Mustern, etwa nach Gruppen von Kunden, die sich ähnlich verhalten. Was diese Gruppen bedeuten, sagt das Modell nicht.

Bestärkendes Lernen: Sutton und Barto beschreiben es als Lernen, welche Handlung in welcher Situation ein numerisches Belohnungssignal maximiert. Niemand sagt dem Lernenden, was er tun soll. Er findet durch Ausprobieren heraus, welche Handlungen sich lohnen, und die Belohnung kommt oft erst später. Ein Beispiel aus der Personalisierung: Forscher von Yahoo testeten 2010 einen Kontext-Banditen für die Artikelauswahl auf der Yahoo-Startseite, ein Verfahren, das Sutton und Barto in Kapitel 2 ihres Lehrbuchs behandeln. Die Belohnung war der Klick. In der Offline-Auswertung an über 33 Millionen aufgezeichneten Ereignissen brachte das Verfahren 12,5 % mehr Klicks als ein Bandit-Verfahren ohne Nutzerdaten.

In allen drei Fällen lernt das Modell nur, was in den Daten steht. Fehler, Lücken und Verzerrungen der Daten übernimmt es mit.

Im Marketing steckt Machine Learning in Werkzeugen, die täglich genutzt werden. Bei Smart Bidding trainieren laut Google Ads-Hilfe Algorithmen des maschinellen Lernens auf großen Datenmengen, um vorherzusagen, wie sich verschiedene Gebote auf Conversions oder den Conversion-Wert auswirken. Das System optimiert auf die Conversions, die das Konto meldet. Wer dort Falsches zählt, trainiert das System auf das falsche Ziel.

Empfehlungen sind das zweite große Feld. Google-Forscher beschrieben 2016 das Empfehlungssystem von YouTube als eines der größten und ausgefeiltesten industriellen Empfehlungssysteme und berichteten von deutlichen Leistungsgewinnen durch Deep Learning.

Auch die Suche selbst nutzt es. Google beschreibt RankBrain als KI-System, das hilft zu verstehen, wie Wörter mit Begriffen zusammenhängen, und Neural Matching als KI-System, das Begriffe in Suchanfragen und Seiten erfasst und einander zuordnet. Für SEO heißt das: Google wertet aus, was eine Seite bedeutet, und nicht nur, welche Wörter darauf stehen.

• Zuerst prüfen, ob eine feste Regel genügt; Machine Learning lohnt sich, wo die Muster für Handregeln zu komplex sind.
• Aufgabe und Leistungsmaß festlegen, bevor ein Modell trainiert wird, wie bei Mitchell T und P.
• Trainingsdaten auf Lücken, Fehler und Verzerrungen prüfen, bevor man ihnen ein Modell anvertraut.
• Ein Modell an Daten testen, die es im Training nicht gesehen hat.
• In Google Ads nur die Conversions als Ziel melden, die für das Geschäft zählen.
• Ergebnisse regelmäßig mit Geschäftszahlen abgleichen, weil sich die Daten mit der Zeit ändern.

• Machine Learning, KI und LLM gleichsetzen.
• Annehmen, ein Modell verstehe Ursachen, obwohl es Zusammenhänge in Daten findet.
• Mit zu wenigen oder einseitigen Daten trainieren und das Ergebnis verallgemeinern.
• Auf eine Kennzahl optimieren, die nicht dem Geschäftsziel entspricht.
• Ein Modell nur an den Daten bewerten, mit denen es trainiert wurde.
• Automatische Gebotsstrategien ständig umstellen und so das Lernen immer wieder neu beginnen.