Warum die nächste KI-Revolution nicht im Rechenzentrum stattfinden muss
Eine kleine Erkenntnis mit großer Wirkung
Seit einiger Zeit arbeite ich mit künstlicher Intelligenz an zwei literarischen Projekten: einem historischen Reisebericht und einer Science-Fiction-Geschichte. Die beiden Geschichten haben inhaltlich wenig miteinander zu tun. In beiden Fällen unterstützt mich ChatGPT bei der Entwicklung von Figuren, Handlung und Erzählstruktur.
Die Zusammenarbeit ist produktiv. Wir diskutieren Perspektiven, entwickeln Episoden, verwerfen Ideen und verbessern die Dramaturgie. Die KI verfügt über umfangreiches Wissen und kann nahezu jeden Vorschlag unmittelbar weiterentwickeln.
Dennoch stoße ich in beiden Projekten immer wieder auf eine ähnliche Schwierigkeit. Ich möchte Geschichten erzählen, deren Reiz nicht hauptsächlich aus Konflikten, Eskalationen und deren Auflösung entsteht. Mich interessiert vielmehr, wie sich durch Beobachtungen, Begegnungen und unerwartete Zusammenhänge allmählich ein neues Verständnis entwickelt.
Der KI-Assistent hilft mir bei beiden Geschichten. Was er nicht tut: Er erkennt nicht, dass ich in zwei unterschiedlichen Projekten offenbar vor demselben grundsätzlichen Problem stehe.
Dann stoße ich unabhängig von unserer Zusammenarbeit auf Kishōtenketsu, eine aus Ostasien bekannte vierteilige Erzählstruktur.
Sie besteht aus Einführung, Entwicklung, Wendung und Zusammenführung. Anders als viele verbreitete westliche Dramaturgiemodelle benötigt sie keinen zentralen Konflikt als organisierendes Prinzip. Die Wendung kann vielmehr darin bestehen, dass ein unerwarteter Zusammenhang sichtbar wird und das zuvor Erzählte eine neue Bedeutung erhält.
Eine kurze Erklärung dieses Prinzips eröffnet mir plötzlich Möglichkeiten, nach denen ich zuvor lange gesucht hatte.
Das Bemerkenswerte daran ist nicht, dass ChatGPT Kishōtenketsu nicht gekannt hätte. Auf Nachfrage kann das System die Erzählstruktur problemlos erklären, mit anderen Modellen vergleichen und auf meine Projekte anwenden.
Die KI verfügte über das erforderliche Wissen. Sie erkannte nicht, dass dieses Wissen für mich relevant war.
Damit stellt sich eine grundsätzliche Frage: Was bedeutet es eigentlich, wenn ein künstlich intelligentes System den Auftrag hat, möglichst nützlich zu sein?
Die Grenzen der Nützlichkeit
Heutige KI-Assistenten sind außerordentlich leistungsfähig darin, Aufgaben innerhalb eines vorgegebenen Rahmens zu bearbeiten.
Sie können Texte verbessern, Programme schreiben, Daten analysieren, Argumente prüfen und komplexe Sachverhalte erklären. Häufig schlagen sie sogar eigenständig Verbesserungen vor.
Dabei orientieren sie sich jedoch überwiegend an der Problemstellung, die im aktuellen Gespräch erkennbar ist.
Wer an einer Geschichte arbeitet, bekommt Unterstützung bei der Geschichte. Wer einen Geschäftsprozess verbessern möchte, erhält Vorschläge zur Prozessoptimierung. Wer ein Computerprogramm entwickelt, bekommt Hilfe bei dessen Implementierung.
Das ist sinnvoll, solange die zugrunde liegende Problemstellung richtig gewählt wurde.
Aber was geschieht, wenn gerade diese Problemstellung ungeeignet ist?
Ein Assistent kann viele Stunden damit verbringen, einen Prozess effizienter zu gestalten, dessen Abschaffung die bessere Lösung wäre. Er kann eine komplizierte Softwarearchitektur optimieren, obwohl eine wesentlich einfachere Konstruktion denselben Zweck erfüllen würde.
Und er kann einen Autor bei der Entwicklung einer konfliktdramaturgischen Erzählung unterstützen, obwohl dieser eigentlich nach einer anderen Form des Erzählens sucht.
Die entscheidende Fähigkeit wäre dann nicht, innerhalb des bestehenden Denkrahmens bessere Antworten zu liefern.
Sie bestünde darin, den Denkrahmen selbst infrage zu stellen.
Dabei handelt es sich nicht um eine grundsätzliche Unfähigkeit heutiger Sprachmodelle. Sie können solche Perspektivenwechsel durchaus vollziehen, insbesondere wenn man sie ausdrücklich dazu auffordert.
Was ihnen häufig fehlt, ist die zuverlässige, selbstständige Erkenntnis, wann ein Perspektivenwechsel erforderlich oder besonders wertvoll wäre.
Diese Unterscheidung ist wesentlich.
Wenn verschiedene Probleme dasselbe Problem sind
In meinem Beispiel gab es zwei literarische Projekte mit unterschiedlichen Inhalten. Aus der Perspektive eines gewöhnlichen Assistenzsystems handelt es sich zunächst um zwei getrennte Arbeitszusammenhänge.
Die Gemeinsamkeit liegt nicht in den Figuren, Schauplätzen oder Handlungen. Sie wird erst sichtbar, wenn man von den konkreten Projekten abstrahiert.
Auf der ersten Ebene steht die Frage, wie eine bestimmte Geschichte erzählt werden soll.
Auf der zweiten Ebene steht die Frage, welche Erzählstruktur dafür geeignet ist.
Auf einer dritten Ebene wird erkennbar, dass in unterschiedlichen Projekten wiederholt dieselbe Schwierigkeit mit der Organisation von Erzählungen auftritt.
Erst diese übergeordnete Betrachtung macht es naheliegend, nach einer grundsätzlich anderen Erzähltheorie zu suchen.
Man könnte von einer Meta-Meta-Ebene sprechen: Nicht nur die Lösung eines Problems wird untersucht, sondern die Struktur der Probleme selbst und die Angemessenheit der verwendeten Lösungsverfahren.
Diese Fähigkeit wäre keineswegs nur für Literatur interessant.
Ein Unternehmer könnte in mehreren Betrieben immer wieder auf organisatorische Schwierigkeiten stoßen, die scheinbar nichts miteinander zu tun haben. Erst die übergreifende Analyse zeigt, dass sie aus derselben problematischen Anreizstruktur entstehen.
Ein Wissenschaftler könnte in unterschiedlichen Forschungsgebieten auf ähnliche methodische Grenzen stoßen.
Ein Programmierer könnte wiederholt komplexe Lösungen entwickeln, weil er ein bestimmtes Architekturprinzip nicht kennt.
In allen Fällen wäre die wertvollste Erkenntnis möglicherweise nicht die Antwort auf eine gestellte Frage, sondern die Identifikation einer bisher unbemerkten Gemeinsamkeit.
Menschen können solche Zusammenhänge erkennen. Allerdings sind auch sie durch ihre Aufmerksamkeit, ihr Gedächtnis und ihre gewohnten Denkmodelle begrenzt.
Gerade deshalb wäre ein technisches System interessant, das über Jahre hinweg systematisch nach solchen Mustern sucht.
Warum ein besseres Gedächtnis nicht ausreicht
Die Entwicklung persönlicher KI-Assistenten wird häufig mit der Vorstellung eines umfassenden Langzeitgedächtnisses verbunden.
Ein zukünftiger Assistent soll sich an frühere Gespräche erinnern, Dokumente kennen, Projekte begleiten und individuelle Vorlieben berücksichtigen.
Das wäre zweifellos nützlich. Aber ein vollständiges Gedächtnis ist noch kein Verständnis.
Ein System könnte sämtliche Gespräche über meine beiden literarischen Projekte gespeichert haben, ohne jemals ihre gemeinsame Problemstruktur zu erkennen.
Die bloße Verfügbarkeit von Informationen erzeugt noch keine neuen Erkenntnisse.
Dafür müsste eine persönliche KI wesentlich mehr leisten als das Speichern und Wiederfinden von Gesprächsinhalten.
Sie müsste aus Gesprächen und Dokumenten fortlaufend offene Fragen, ungelöste Probleme, verworfene Lösungsversuche, Hypothesen und wiederkehrende Schwierigkeiten extrahieren.
Anschließend müsste sie diese Informationen unabhängig von den ursprünglichen Projekten miteinander vergleichen.
Dabei könnten Verbindungen entstehen, die beim erstmaligen Einlesen der Informationen noch gar nicht erkennbar waren.
Das stellt eine erhebliche technische Herausforderung dar.
Ein Mensch, der über Jahre intensiv mit digitalen Systemen arbeitet, kann Millionen von Wörtern an Gesprächen, Notizen, Dokumenten und Korrespondenz erzeugen. Die Speicherung dieser Daten ist mit heutiger Technik vergleichsweise einfach.
Ihre fortlaufende semantische Analyse ist wesentlich aufwendiger.
Es wäre ineffizient, den gesamten Bestand täglich vollständig durch ein großes Sprachmodell verarbeiten zu lassen.
Ein praktikables System müsste deshalb inkrementell arbeiten.
Neue Informationen würden zunächst analysiert und in einen strukturierten Wissensbestand aufgenommen. Bereits bekannte Zusammenhänge könnten aktualisiert, Widersprüche markiert und neue offene Fragen identifiziert werden.
Daneben müsste es einen zweiten Prozess geben, der übergreifende Muster sucht.
Besonders interessant wäre eine rückwirkende, hypothesengetriebene Analyse: Wenn das System ein neues Konzept kennenlernt, könnte es gezielt prüfen, ob dieses Konzept auch für ältere, bislang ungelöste Probleme relevant ist.
Im Fall von Kishōtenketsu hätte eine solche Analyse frühere Diskussionen über Erzählstrukturen erneut betrachten können.
Die technische Aufgabe besteht also nicht darin, den gesamten Wissensbestand möglichst häufig neu zu berechnen.
Sie besteht darin, mit möglichst geringem Rechenaufwand diejenigen Informationen zu identifizieren, deren erneute Betrachtung den größten Erkenntnisgewinn verspricht.
Die zweite Denkebene
Daraus ergibt sich eine mögliche Architektur für persönliche künstliche Intelligenz.
Neben dem gewöhnlichen dialogischen Assistenten könnte eine zweite, weitgehend unabhängig arbeitende Instanz entstehen.
Der dialogische Assistent beantwortet Fragen, bearbeitet aktuelle Aufgaben und reagiert unmittelbar auf Anweisungen.
Die zweite Instanz arbeitet langsamer. Sie untersucht die langfristige Entwicklung von Projekten, sucht nach wiederkehrenden Problemen, vergleicht unterschiedliche Denkansätze und überprüft mögliche neue Zusammenhänge.
Sie müsste nicht ständig mit dem Nutzer kommunizieren.
Vielleicht arbeitet sie nachts, wenn der Computer ansonsten wenig zu tun hat. Vielleicht untersucht sie über mehrere Stunden hinweg eine Handvoll Hypothesen und verwirft die meisten davon.
Nur gelegentlich würde sie eine Beobachtung präsentieren:
„Mir ist aufgefallen, dass Sie in drei unterschiedlichen Projekten wiederholt auf dieselbe strukturelle Schwierigkeit stoßen. Es gibt dafür ein theoretisches Konzept, das Sie bisher offenbar nicht berücksichtigt haben.“
Ein solcher Hinweis könnte wertvoller sein als Hunderte korrekt beantwortete Einzelfragen.
Allerdings wäre die Qualität dieses Systems nicht daran zu messen, wie viele überraschende Analogien es produziert.
Menschen wie Sprachmodelle können überall vermeintliche Muster erkennen. Viele davon sind bedeutungslos.
Eine persönliche Reflexionsinstanz müsste deshalb konkurrierende Erklärungen prüfen, ihre Vermutungen mit konkreten Belegen verknüpfen und den erwarteten Nutzen einer neuen Erkenntnis gegen die Kosten ihrer Überprüfung abwägen.
Andernfalls entstünde lediglich eine Maschine zur Produktion plausibel klingender Assoziationen.
Der entscheidende Fortschritt läge in der zuverlässigen Auswahl weniger, tatsächlich wertvoller Erkenntnisse.
Die dezentrale Phase einer Basisinnovation
Technologische Basisinnovationen zeigen häufig ein bemerkenswertes Entwicklungsmuster.
Ihre frühe Nutzung konzentriert sich auf große, kapitalintensive Anwendungen. Die tiefgreifenden gesellschaftlichen Veränderungen entstehen jedoch oft erst, wenn die Technologie dezentral verfügbar wird und Menschen sie für eigene Zwecke einsetzen können.
Die Elektrizität veränderte zunächst industrielle Produktionsprozesse. Ihre gesellschaftliche Wirkung vervielfachte sich, als Elektromotoren einzelne Maschinen antreiben konnten und elektrische Geräte in Haushalte einzogen.
Computer waren zunächst große, teure Anlagen für Wissenschaft, Militär und Verwaltung. Der Personal Computer eröffnete dagegen Millionen Menschen die Möglichkeit, selbst Programme zu entwickeln, Informationen zu verarbeiten und neue Anwendungen zu erfinden.
Auch das Internet entwickelte sich von institutionellen Netzen zu einer Infrastruktur, auf der Einzelpersonen und kleine Unternehmen eigenständige Dienste anbieten konnten.
Dieses Muster ist kein allgemeines Naturgesetz technologischer Entwicklung. Manche Innovationen beginnen bereits dezentral, andere bleiben dauerhaft von großen Infrastrukturen abhängig.
Dennoch zeigt sich wiederholt: Die gesellschaftliche Bedeutung einer Technologie hängt nicht nur von ihrer Leistungsfähigkeit ab, sondern auch davon, wer über ihre Verwendung entscheiden kann.
Bei künstlicher Intelligenz erleben wir gegenwärtig eine stark zentralisierte Entwicklungsphase.
Große Rechenzentren, enorme Investitionen und wenige Anbieter prägen die Entwicklung der leistungsfähigsten Modelle.
Entsprechend konzentriert sich die öffentliche Diskussion auf große Anwendungen: Automatisierung von Büroarbeit, Softwareentwicklung, industrielle Produktivität und wissenschaftliche Forschung.
Die nächste Phase könnte jedoch anders aussehen.
Nicht unbedingt, weil jeder Mensch ein eigenes großes Sprachmodell betreiben wird.
Sondern weil individuelle KI-Systeme entstehen könnten, die dauerhaft mit den persönlichen Wissensbeständen ihrer Nutzer arbeiten.
Der entscheidende Unterschied wäre nicht die Größe des Modells, sondern die Individualität seiner Aufgaben.
Eine allgemein verfügbare KI kann über nahezu jedes Wissensgebiet Auskunft geben.
Eine persönliche KI könnte zusätzlich wissen, welche Fragen für einen bestimmten Menschen seit Jahren ungelöst sind, welche Lösungsversuche er bereits unternommen hat und welche theoretischen Konzepte ihm möglicherweise fehlen.
Die erste Phase der KI-Revolution automatisiert vor allem Tätigkeiten.
Eine dezentrale zweite Phase könnte die individuelle Erkenntnisfähigkeit erweitern.
Wem gehört das Modell eines Menschen?
Damit entsteht allerdings eine neue Machtfrage.
Eine persönliche KI, die über Jahre hinweg Gespräche, Dokumente, Entscheidungen und Denkprozesse analysiert, verfügt über eine außerordentlich sensible Informationsgrundlage.
Sie kennt nicht nur persönliche Daten im herkömmlichen Sinn.
Sie könnte ein detailliertes Modell der intellektuellen Entwicklung eines Menschen besitzen: seine Interessen, Unsicherheiten, wiederkehrenden Denkfehler, ungelösten Probleme, Überzeugungen und deren Veränderungen.
Ein solches Modell wäre wirtschaftlich wertvoll. Es könnte aber auch zur gezielten Beeinflussung seines Besitzers verwendet werden.
Gerade die großen Technologieunternehmen haben durch ihre bisherigen Geschäftsmodelle und ihren Umgang mit Nutzerdaten erhebliche Zweifel daran entstehen lassen, ob ihnen eine derartige Informationsmacht anvertraut werden sollte.
Das bedeutet nicht zwangsläufig, dass diese Unternehmen den Markt für persönliche KI nicht dominieren können. Bequemlichkeit, bestehende Plattformbindungen und technische Leistungsfähigkeit könnten auch hier stärker wirken als Datenschutzbedenken.
Aber die Anforderungen an ein persönliches Erkenntnissystem unterscheiden sich grundlegend von denen eines gewöhnlichen Chatbots.
Ein solches System muss nicht vollständig lokal rechnen.
Es könnte durchaus externe, besonders leistungsfähige Sprachmodelle nutzen, um einzelne Probleme zu bearbeiten.
Entscheidend wäre vielmehr, dass sein langfristiger Wissensbestand unter der Kontrolle des Nutzers bleibt.
Eine mögliche Architektur würde das persönliche Gedächtnis und die Organisation der Reflexionsprozesse von den jeweils verwendeten Sprachmodellen trennen.
Die Modelle wären austauschbare Werkzeuge. Sie erhielten nur jene Informationen, die für die konkrete Aufgabe notwendig sind.
Das persönliche Wissensmodell bliebe unabhängig vom Anbieter.
Damit lassen sich drei Anforderungen unterscheiden: Datenschutz schützt Informationen vor unberechtigtem Zugriff. Datenhoheit bestimmt, wer über Speicherung und Verwendung entscheidet. Kognitive Autonomie betrifft die Frage, wer beeinflusst, welche Probleme untersucht, welche Perspektiven berücksichtigt und welche Erkenntnisse präsentiert werden.
Diese dritte Dimension könnte langfristig die wichtigste sein.
Denn wer kontrolliert, welche Fragen ein persönlicher KI-Assistent stellt, beeinflusst möglicherweise auch, welche Gedanken sein Nutzer entwickelt.
Ein lokal gespeichertes Gedächtnis allein löst dieses Problem nicht. Ebenso wenig garantiert ein quelloffenes Sprachmodell intellektuelle Unabhängigkeit.
Aber eine Architektur, in der Gedächtnis, Reflexion und Rechenleistung voneinander getrennt und durch den Nutzer kontrollierbar sind, könnte die Abhängigkeit von einzelnen Plattformbetreibern erheblich reduzieren.
Vom Antwortsystem zum Erkenntnissystem
Die gegenwärtige Entwicklung künstlicher Intelligenz wird vor allem anhand ihrer Antworten beurteilt.
Wie zuverlässig beantwortet ein Modell Fragen? Wie gut programmiert es? Welche Prüfungen besteht es? Wie viele Arbeitsstunden kann es einsparen?
Das sind wichtige Maßstäbe. Sie erfassen jedoch nur einen Teil des möglichen Nutzens.
Ein System, das eine falsch gestellte Frage perfekt beantwortet, kann weniger wertvoll sein als eines, das rechtzeitig auf den Fehler in der Fragestellung hinweist.
Und ein Assistent, der zehn Stunden Arbeit übernimmt, kann weniger nützlich sein als einer, der erkennt, warum acht dieser Stunden gar nicht erforderlich gewesen wären.
Die persönliche KI könnte deshalb einen grundlegenden Wandel erfahren.
Vom reaktiven Werkzeug, das gestellte Aufgaben bearbeitet, zu einem kontinuierlich arbeitenden Erkenntnissystem, das die langfristige Problemgeschichte seines Nutzers untersucht.
Dafür benötigen wir nicht zwingend ein noch größeres Sprachmodell.
Wir benötigen vor allem neue Verfahren, um Wissen dauerhaft zu organisieren, ungelöste Probleme zu erkennen, projektübergreifende Zusammenhänge zu prüfen und den möglichen Wert neuer Erkenntnisse einzuschätzen.
Ob solche Systeme tatsächlich zuverlässig funktionieren werden, ist offen. Die Erkennung bedeutungsvoller Analogien, die Vermeidung falscher Muster und die Bewertung des individuellen Erkenntnisgewinns bleiben anspruchsvolle Forschungs- und Entwicklungsaufgaben.
Aber die grundlegenden technischen Bausteine existieren bereits.
Vielleicht liegt die nächste große Veränderung durch künstliche Intelligenz deshalb nicht ausschließlich in immer leistungsfähigeren Rechenzentren.
Vielleicht entsteht sie auch auf den Computern einzelner Menschen, die ihre eigenen Wissensbestände systematisch erschließen und dafür je nach Bedarf lokale oder externe Modelle einsetzen.
Dann würde sich nicht nur verändern, wie wir Antworten erhalten.
Es würde sich verändern, wie wir unsere eigenen Probleme erkennen.
Die entscheidende Leistung einer persönlichen KI könnte eines Tages darin bestehen, eine Frage zu stellen, auf die ihr Nutzer selbst noch nicht gekommen ist.