Warum KI nur ein Teil der Geschichte ist
Jede Woche ein neues Modell, eine neue Ankündigung, und irgendwann dreht sich gefühlt alles nur noch um KI. Mir geht es da wie vielen. Manchmal ermüdet mich das.
Je länger ich darüber nachdenke, desto klarer wird mir, dass KI nur ein Teil der Geschichte ist. Die eigentliche Veränderung beginnt dort, wo mehrere Technologien gleichzeitig in Abläufe eingreifen, die bisher Menschen verantwortet haben. Ich nenne das Technologiekonvergenz.
Was meint Technologiekonvergenz?
Technologiekonvergenz bezeichnet das Zusammenwachsen einzelner Technologien zu Systemen, die gemeinsam mehr verändern als jede für sich. Mich beschäftigen dabei vor allem Künstliche Intelligenz, Physical AI, virtuelle Welten und Blockchain.
Einzeln betrachtet ist jede davon überschaubar. Man kann sie bewerten und ein Pilotprojekt dafür aufsetzen. Schwierig wird es, wenn sie ineinandergreifen.
Welche Rolle spielt jeder der vier Stränge?
Künstliche Intelligenz
KI wertet Informationen aus und automatisiert Abläufe. Zunehmend entscheidet sie selbst, welche Anfrage zuerst bearbeitet wird, welches Angebot plausibel ist oder welches Risiko auffällt.
Physical AI
Mit Physical AI greift diese Intelligenz in die physische Welt ein. Roboter und Maschinen handeln auf Grundlage dessen, was ein System entschieden hat. Fehler haben dann materielle Folgen.
Virtuelle Welten
In virtuellen Umgebungen und digitalen Zwillingen lässt sich beobachten, wie ein System reagiert, bevor es im Betrieb wirkt. Datenflüsse, die sonst im Hintergrund bleiben, werden dort sichtbar.
Blockchain
Blockchain interessiert mich hier als Gedächtnis, als Protokoll, das sich nachträglich nicht umschreiben lässt. Es gibt andere Wege zu revisionssicheren Aufzeichnungen. Wichtig ist, dass sich später nicht mehr ändern lässt, was einmal festgehalten wurde.
Ich stelle mir das Ganze als Seil vor. Einzeln sind es Stränge. Zusammen tragen sie Lasten, die keiner allein halten könnte, vorausgesetzt, sie sind sauber geflochten.
Was ist eigentlich passiert?
Als Mediator stelle ich in fast jedem Gespräch dieselbe Frage: „Was ist eigentlich passiert?“ In Konflikten erinnert sich jeder ein wenig anders. Oft kommt man erst weiter, wenn der Ablauf gemeinsam rekonstruiert wird, Schritt für Schritt und ohne gleich nach Schuldigen zu suchen.
Bei Systemen, die selbst entscheiden und miteinander interagieren, wird diese Frage schwieriger. Ein KI-System plant die Reihenfolge der Aufträge, ein Roboter führt sie aus, ein digitaler Zwilling hat die Planung vorher durchgespielt. Wenn am Ende etwas schiefgeht, hat kein Mensch jeden Schritt gesehen. Wer dann verstehen will, was die Entscheidung ausgelöst hat, braucht Spuren, die vorher jemand gelegt hat.
Hier helfen sich die Stränge gegenseitig. Die virtuelle Welt zeigt vorher, was passieren könnte, das Protokoll hält fest, was passiert ist. Die Entscheidung dazwischen verantworten Menschen.
Wer trägt die Verantwortung, wenn Systeme mitentscheiden?
Die Verantwortung bleibt bei uns Menschen. Für jeden einzelnen Strang und vor allem dafür, wie die Stränge zusammenwirken. Das klingt nach einer schweren Last.
Ehrlich gesagt finde ich den Gedanken eher entlastend. Wenn nachvollziehbar ist, was passiert ist, müssen wir uns weder auf Bauchgefühl noch auf Schuldzuweisungen verlassen. Wir können in Ruhe hinschauen, Fehler verstehen und beim nächsten Mal klüger entscheiden.
Was sollten Geschäftsführungen und Gremien vorher klären?
Nachvollziehbarkeit lässt sich nicht nachträglich herstellen. Sie muss vor der Einführung einer Technologie mitgedacht werden. Mir helfen dabei vier Fragen.
- Welche Entscheidungen trifft das System selbst, und welche bereitet es nur vor?
- Wo greift es in Abläufe anderer Systeme ein, und wer weiß davon?
- Was wird protokolliert, und lässt sich das Protokoll später verändern?
- Wer ist zuständig, wenn das Ergebnis niemandem gefällt?
Die europäische KI-Verordnung verlangt solche Antworten für bestimmte Anwendungen ohnehin. Sinnvoll sind sie überall dort, wo eine automatisierte Entscheidung Folgen für Menschen hat.
Wie geht es Ihnen damit?
Haben Sie schon einmal vor einer automatisierten Entscheidung gestanden und nicht mehr nachvollziehen können, wie sie zustande kam? Ich freue mich über Ihre Erfahrungen, auf LinkedIn oder über das Kontaktformular.
Mehr zum Modell der vier Stränge steht auf der Seite Perspektive. Den Strang Künstliche Intelligenz in Verbindung mit der daraus resultierenden Verantwortung habe ich in meinem Buch „A Business Industry“ ausführlich bearbeitet.