KI-Sprachmodelle: Es droht Textinzest

Jede zweite Panelistin, fast jeder Moderator startet gleich: Ich habe mal ChatGPT gefragt, was ich sagen soll. Was einmal originell war, ist längst zur abgehalfterten Routine geworden. ChatGPT scheint unsere Welt neu zu beleben, dadurch dass auch Künstliche Intelligenz sie nun beschreiben kann. Das konnten wir Menschen zuvor auch schon, aber weil das ja immer so war, sind wir uns selbst offenbar langweilig geworden. Die KI macht Kreativität plötzlich wieder aufregend. 

Wenn es einen eindeutigen Trend im Technologiesektor gibt, dann merkt man das hier auf der South by Southwest, einer der größten Digitalkonferenzen der Welt, in Austin, Texas. Vor zwei Jahren war das die Blockchain, 2022 konnte man sich vor NFTs nicht retten und das Metaverse war vermeintlich dabei, die reale Welt irgendwann ganz abzulösen. Und in diesem Jahr erlebt die generative KI ihren Siegeszug in den Räumen des Kongresscenters. ChatGPT wird nach allem gefragt und beklatscht wie ein Kleinkind, das „Mama“ sagen kann.

Es gibt einen Gast, der jedes Recht hätte, mit einer Frage an ChatGPT einzusteigen, es aber nicht tut (das hat wiederum schon die Moderatorin erledigt). Greg Brockman ist einer der Gründer von OpenAI und Erfinder der KI-Anwendung, die uns nun die Welt neu beschreibt. Brockman analysiert die Entstehungsgeschichte und potenzielle Zukunft, die Chancen und Risiken von ChatGPT ganz nüchtern. Und dabei sagt er einen ganz zentralen Satz, der die Erfolgswelle des Tools erklärt: Jedes Geschäftsmodell ist ein Sprachmodell. Anders gesagt: Alle Welt basiert auf Kommunikation. Und die kann KI nun plötzlich so gut wie wir.

Aber ist das tatsächlich so? Diese Sprachmodelle werden mit Texten aus dem Internet trainiert. Sie analysieren, was beschrieben ist, um daraus abzuleiten, was noch beschrieben werden soll. Alle kommunikative Zukunft wird aus kommunikativer Vergangenheit abgeleitet.

Das macht ja nichts, denn aus der Geschichte kann man lernen. Ob das auch bei Sprachmodellen der Fall ist, wird sich allerdings noch zeigen müssen. Es greift hier nämlich ein selbstverstärkender Mechanismus, der den kreativen Fortschritt womöglich irgendwann implodieren lässt.

Gefüttert mit historischen Daten spuckt die KI immer mehr Prognosen zu Textfolgewahrscheinlichkeiten aus, die nicht mehr sind, als eine immer neue Rekombination aus Bestehendem. Parallel produzieren Menschen zuweilen recht originelle Texte, Musikstücke, Gedichte, die ihrerseits wiederum Eingang in den wachsenden Textspeicher der Menschheitsgeschichte finden. Innovation und Rekombination ergänzen sich. Auf ewig?

Ein internationales Forschungsteam hat errechnet, dass der Fundus an neuen hochwertigen Textdaten für die KI bereits 2026 erschöpft sein wird. Danach trainiert sie mehr und mehr mit Texten, die sie selbst erschaffen hat. Das ist Textinzest und in diesem Falle kein moralisches, sondern ein intellektuelles Problem.

Eine intellektuell langweilige Welt droht

Die KI presst alle Kommunikation durch einen hocheffizienten Mixer. Was sie produziert, wird wiederum ins Weltwissen des Internets eingespeist – ein Selbstverstärkungsmechanismus, in dem der Remix wächst und die Originalität schrumpft. Irgendwann allerdings ist der Kipppunkt erreicht. Das ist die Dynamik einer Sinnkrise der Datengesellschaft, und sie erinnert an die Geschichte.

Wie strukturierte Produkte an den Finanzmärkten zu Crash und Krise ab 2008 beigetragen haben, könnte generative KI auf einen Schmelzpunkt origineller Kommunikation zusteuern. Die KI schafft komplex strukturierte Derivate des Denkens – in so vielen Ableitungen, dass wir das Original kaum mehr erkennen können. Aus Gebrauchtem neu Zusammengesetztes wird so lange gemischt, zu neuen Remixes verarbeitet, bis alles zu einem Gedanken-Smoothie wird.

Das wird die Zeit der kontinuierlichen Klischees. Automatisierte Kommunikation wird immer wichtiger, KI-Bots antworten auf E-Mails, die wiederum von KI-Bots geschrieben wurden. Es entsteht ein Sekundärmarkt der automatisierten Kommunikation, der bald größer sein wird als der Primärmarkt menschlicher Kommunikation – eine intellektuell langweilige Welt gemischter Gedanken. 

Eigentlich, so Greg Brockman auf der SXSW, soll ChatGPT helfen, unsere kreativen Blockaden zu lösen und uns bei neuen Ideen zu helfen. Dafür kann das Tool tatsächlich sehr hilfreich sein. Um die Auswirkungen von neuen Technologien zu begreifen, so Brockman, muss man vor allem auch den Menschen verstehen. Er hat nach Hannah Arendt die Befähigung zum Unerwarteten – wenn sie nicht durch Bequemlichkeit wegrationalisiert wird. Hoffen wir, dass wir uns selbst noch historisch überraschen können.