Beiträge zu Technologiekonvergenz und Verantwortung

Stefan Spelter schreibt hier über das Zusammenwirken 
von Künstlicher Intelligenz, Physical AI, virtuellen Welten und Blockchain, 
über Nachvollziehbarkeit und darüber, 
was Veränderung mit Menschen in Organisationen macht.

Im Dunkeln hilft keine KI

Artikel geschrieben von in der Kategorie

Kurz gesagt

Gespeichertes Wissen überlebt nur so lange, wie Menschen es verstehen und weitergeben.

Je mehr KI übernimmt, desto weniger Menschen verstehen die Technik, auf der unser Alltag läuft. Dieses Wissen liegt zunehmend auf Servern, die Strom brauchen, und die Stromnetze kommen an einzelnen Orten bereits an ihre Grenzen. Wer heute automatisiert, trägt deshalb auch die Verantwortung, dass das zugehörige Wissen im Ernstfall ohne Strom und ohne KI lesbar und auch zugreifbar bleibt. Doch wird das wirklich gemacht? Was passiert, wenn morgen der Strom in deinem Ort einfach weg ist? Unwahrscheinlich ist das nicht.

Ein unbequemes Gedankenspiel

Seit einer Weile beschäftigt mich die Frage, wo eigentlich das Wissen der alten Kulturen geblieben ist. Wir finden Höhlenmalereien, behauene Steine, ein paar Inschriften. Von dem, was diese Menschen wussten und konnten, kennen wir nur Bruchstücke.

Spielen wir es brutal durch. Eine frühere Kultur war so weit wie wir heute. Ihr Wissen lag digital und zentral, jederzeit abrufbar. Dann fiel die Infrastruktur aus, und mit ihr verschwand alles, was darauf gespeichert war. Übrig blieben nur die wenigen Botschaften, die jemand ganz verantwortungsbewusst und aus seinem Kopf heraus noch in Stein gekloppt hat.

Sicherlich ist das Gedankenspiel historisch so nicht haltbar. Aber drehen wir dieses Bild mal um: als Spiegel für heute taugt es trotzdem, denn so organisieren wir gerade unser Wissen. Wir schreiben in KI-Umgebungen, lassen Texte generieren und geben sie weiter, oft ungeprüft. Die Folge daraus ist, dass unser Wissen zu einem Konsumgut verkommt, und das Medium, auf dem es aktuell liegt, braucht Strom. Maximal unbequem, wie ich später herausgefunden habe.

Was die Wissenschaft dazu sagt

Wissenschaftler haben diese Frage ernsthaft untersucht. 2018 fragten der NASA-Klimaforscher Gavin Schmidt und der Astrophysiker Adam Frank, ob eine Industriezivilisation vor Jahrmillionen im geologischen Befund überhaupt noch erkennbar wäre. Sie nannten das die Silurian-Hypothese.

Nach ihrer Abschätzung wären nach etwa vier Millionen Jahren an der Erdoberfläche kaum noch Artefakte zu finden. Übrig blieben chemische Spuren in Sedimenten, etwa verschobene Kohlenstoff-Isotope, langlebige Kunststoffmoleküle oder radioaktiver Fallout (Space.com). Frank selbst glaubt nicht, dass es eine solche Zivilisation gab. Für ihn war vielmehr wichtig, woran wir diese erkennen würden.

Für die Zeit, in der es Menschen gibt, spricht vor allem dagegen, dass eine Kultur auf unserem Niveau leicht erreichbare Erze und Kohleflöze abgebaut hätte (manch sarkastische Zunge würde sagen: ausgebeutet). Allerdings haben wir sie weitgehend unberührt vorgefunden. Als historische These trägt das Gedankenspiel deshalb nicht. Als Denkanstoß hilft es trotzdem, wie mir beim Weiterdenken aufgefallen ist.

Die letzte Inschrift von Philae

Die letzte bekannte hieroglyphische Inschrift entstand am 24. August 394 im Tempel von Philae (Wikipedia). Ihr Verfasser wünschte sich, sie möge für alle Ewigkeit bestehen. Sie steht bis heute. Nur lesen konnte die Inschrift niemand mehr, über 1.400 Jahre lang.

Erst 1822 gelang Jean-François Champollion die Entzifferung (National Geographic). Er konnte den griechischen Paralleltext auf der Rosetta-Stele lesen, weil Griechisch über Jahrhunderte abgeschrieben und gelehrt worden war. Und er beherrschte Koptisch, das vom Altägyptischen abstammt und als Sprache weiterlebte.

Der Stein hat die Zeichen bewahrt. Ihre Bedeutung haben Menschen überliefert, die Griechisch und Koptisch über Generationen weitergaben.

Was wäre, wenn wir das jetzt auf uns anwenden würden?

Angenommen, eine Kultur in ferner Zukunft fände von uns nach Schmidt und Frank vor allem chemische Spuren: Kohlenstoff aus fossilen Brennstoffen, Stickstoff aus Kunstdünger, Kunststoffe, Fallout aus Atomtests und die Folgen eines Massenaussterbens (Space.com). Absichtlich hinterlassen hätten wir davon nichts.

Eine absichtliche Botschaft gibt es aber. Für das Atommülllager WIPP in New Mexico ließen die Sandia National Laboratories ein Expertengremium Markierungen entwerfen, die Menschen 10.000 Jahre lang vor dem Graben warnen sollen (Sandia-Bericht, 1993). Die Empfehlungen lesen sich wie eine Anleitung zur Wissensvorsorge. Sie sehen mehrere Kommunikationswege vor, von Sprache über Piktogramme bis zu Diagrammen, Botschaften in mehreren Komplexitätsstufen und Material ohne Wiederverwertungswert.

Die Experten erwarteten, dass die Marker mit der Zeit an Wirkung verlieren. Zusätzlich forderten sie ein internationales Bemühen, das Wissen über Lage und Inhalt solcher Lager wachzuhalten. Auch dieses Konzept verlässt sich am Ende auf Menschen, die sich erinnern.

Die dauerhafteste Botschaft, die wir absichtlich hinterlassen, wäre damit ein Warnschild.

Die brutale Wahrheit aber ist: Was wir erforscht und entschieden haben, liegt auf Servern.

Kein Strom. Kein Netz. Keine Antwort.

Für mein Gedankenspiel braucht es keinen Meteoriten.
Ein gewöhnlicher Stromausfall genügt. Denken wir das mal zu Ende.

Wo kein Strom fließt, sendet kein Funkmast. Kein Handy. Kein Google. Keine KI. Kein Wiki, kein ERP, keine Cloud. Nichts.

Dann zählt nur noch, was wir bei uns tragen, was wir an uns haben und was wir im Kopf haben.

Netzbetreiber wie die EnBW halten einen flächendeckenden Blackout in Deutschland für äußerst unwahrscheinlich (EnBW). Hoch- und Höchstspannungsnetze werden nach dem n-1-Prinzip geplant. Danach darf jedes einzelne Betriebsmittel ausfallen, ohne dass etwas überlastet. Kritisch wird es erst, wenn ein zweites gleichzeitig ausfällt. Ich halte diese Einschätzung für richtig und sie wird auch von Freunden, die bei Stadtwerken arbeiten, untermauert. Sie gilt allerdings für das Gesamtsystem. Im eigenen Ort kann der Strom trotzdem tagelang fehlen.

Das Bundesamt für Bevölkerungsschutz und Katastrophenhilfe sieht es ähnlich (BBK). Großflächige, lang anhaltende Stromausfälle hat es in Deutschland bisher nicht gegeben. Das Amt stuft ein solches Szenario als sehr unwahrscheinlich, aber plausibel ein. Und es verweist auf einen Bericht des Büros für Technikfolgen-Abschätzung beim Bundestag von 2010. Danach kämen die Folgen eines lang andauernden Ausfalls über mehrere Bundesländer „einer nationalen Katastrophe gleich“.

Dennoch: Lokal und über mehrere Tage ist ein Ausfall längst Realität:

  • Am 22.09.2026 berichtete RP Online, dass Düsseldorfs Hochspannungsnetz erstmals ausgelastet ist. Neue Großanschlüsse, etwa für Rechenzentren und Batteriespeicher, werden vorerst nicht zugelassen (RP Online).
  • Am 25.06.2026 fiel in Rüsselsheim für rund 2.000 Haushalte der Strom aus. Die Hitze hatte das Isolierfett in Kabelmuffen verflüssigt, im Boden wurden 40 °C gemessen, üblich sind 10 °C (hessenschau).
  • Am 03.01.2026 zerstörte ein Brandanschlag in Berlin-Lichterfelde Kabel an einer Kabelbrücke. Rund 45.000 Haushalte und 2.200 Betriebe waren etwa 100 Stunden ohne Strom (Schwäbische/dpa).
  • Im September 2025 waren nach einem Brandanschlag auf zwei Strommasten in Berlin-Johannisthal rund 50.000 Haushalte und Betriebe etwa 60 Stunden ohne Strom (Schwäbische/dpa).
  • Am 28.04.2025 fiel ab 12:33 Uhr in Spanien und Portugal der Strom komplett aus, der schwerste Vorfall im europäischen Stromnetz seit über 20 Jahren (ENTSO-E).

Dazu kommt ein wachsender Hunger nach Strom. Die Internationale Energieagentur erwartet, dass sich der Verbrauch von Rechenzentren weltweit bis 2030 auf rund 945 Terawattstunden mehr als verdoppelt. Das ist etwas mehr, als Japan heute insgesamt verbraucht (IEA). In Industrieländern sollen Rechenzentren mehr als ein Fünftel des Nachfragewachstums ausmachen. Hinzu kommen Wärmepumpen, Elektroautos und an heißen Tagen Klimageräte.

Laut EnBW fallen Mobilfunk, Festnetz und Internet meist innerhalb weniger Stunden aus, sobald die Pufferbatterien leer sind (EnBW). Ein lang anhaltender Ausfall träfe nach Einschätzung des BBK alle Kritischen Infrastrukturen, besonders Telekommunikation, Wasser- und Abwasserversorgung sowie Lebensmittel (BBK). Notstrom bei KRITIS-Betreibern soll nach dem Richtwert des BBK mindestens 72 Stunden ohne Nachtanken laufen. Was danach kommt, hängt an der Diesel-Logistik. Diesel kostet gerade rund 2,23 Euro je Liter, weil der Iran-Konflikt die Straße von Hormus einschränkt. Umso wichtiger werden die Reserven.

Das BBK stellt außerdem fest, dass die Abhängigkeit aller Sektoren von der Stromversorgung beständig zunimmt. Jeder Prozess, den wir digitalisieren und an KI übergeben, verstärkt diese Abhängigkeit.

Unser Problem ist: Im Dunkeln erklärt uns keine KI, wie die Anlage ohne sie funktioniert.

Für den Ernstfall zählt deshalb, ob jemand im Raum das wichtige Wissen ohne Strom, ohne KI und ohne Google abrufen kann.

Wir verlernen, was wir automatisieren

Je mehr KI übernimmt, desto weniger Menschen verstehen die Technik dahinter, und das Wissen konzentriert sich auf immer weniger Köpfe. Für mich ist das die Kehrseite der Technologiekonvergenz. Wenn Systeme zusammenwachsen und mächtiger werden, durchschauen sie immer weniger Menschen. An dieser Stelle dürfen sich Unternehmen hinterfragen, die gerade massenweise Menschen entlassen, weil kurzfristig ein KI-Agent den Job übernimmt.


Na herzlichen Glückwunsch an dieser Stelle zum Beispiel an die Barclays Bank, die bis Ende 2026 rund 5.000 Stellen streicht, auch weil KI Aufgaben übernimmt. Das Wissen ist erst mal weg und teuer, wenn man es wieder braucht. Vom Imageschaden ganz zu schweigen.

IKEA hat es besser gemacht. Als der KI-Bot Billie Routineanfragen übernahm, schulte das Unternehmen rund 8.500 Callcenter-Mitarbeiter um, statt sie zu entlassen. Viele beraten Kunden heute bei der Einrichtung. Das Wissen der Menschen ist geblieben, die KI unterstützt sie.

Die Kognitionspsychologin Lisanne Bainbridge beschrieb das Problem schon 1983 im Aufsatz „Ironies of Automation“ (Wikipedia). Übernehmen Maschinen den Großteil der Arbeit, üben Menschen ihre Fähigkeiten nicht mehr im Alltag. Ihnen bleibt ermüdende Überwachung, und im seltenen Ernstfall sollen sie eingreifen. Bainbridge folgerte daraus, dass das Personal nach der Automatisierung mehr Training braucht als vorher. Daraus resultiert, dass "Unternehmen, die wegen KI Menschen entlassen, werden dadurch also nicht besser. Sie verschieben die Verantwortung auf wenige Personen, die jetzt wissen müssen, was vorher in Hunderten Köpfen steckte".

Für generative KI gibt es inzwischen Hinweise in dieselbe Richtung:

  • In einem Feldexperiment mit knapp 1.000 Schülern, erschienen in PNAS, lösten die Jugendlichen mit ungebremstem GPT-4 Übungsaufgaben um 48 Prozent besser. In der Prüfung ohne KI schnitten sie 17 Prozent schlechter ab als Schüler, die nie Zugang hatten. Eine Version mit Leitplanken, die schrittweise Hinweise gab und die Lösung zurückhielt, verhinderte den Verlust (PsyPost über Bastani et al.).
  • Microsoft Research und die Carnegie Mellon University befragten 319 Wissensarbeiter. Wer der KI stark vertraut, denkt weniger kritisch nach, wer sich selbst viel zutraut, prüft gründlicher (Microsoft Research).
  • Die MIT-Studie „Your Brain on ChatGPT“ maß bei 54 Studierenden per EEG die geringste Hirnaktivität, wenn sie mit ChatGPT schrieben (MVFP). Die Arbeit ist bis heute nicht begutachtet erschienen (Stand Oktober 2026), und die Erstautorin warnt selbst vor Überinterpretation (Scientific American). Sie taugt deshalb nur als Indiz.

Trotzdem kann man daraus eine These bilden:
Wer KI als Antwortmaschine nutzt, verliert nach diesen Studien, was er nicht mehr selbst täglich trainiert. Als Sparringspartner eingesetzt, kann sie diesen Verlust verhindern.

Automatisieren wir einen Prozess, weil das Wissen gerade abrufbar ist, verlagern wir die Abhängigkeit doppelt, auf das System und auf die wenigen, die es noch verstehen. Fällt das System aus und sind diese wenigen nicht greifbar, weiß niemand mehr, wie es ohne geht. Dann ist man in der Sekunde vielleicht auch froh, dass es gerade dunkel ist.

Lesson Learned

Aus Philae, der Rosetta-Stele und dem Berliner Stromausfall ziehe ich denselben Schluss. Wissen braucht ein Medium, das ohne Infrastruktur lesbar bleibt, und Menschen, die es verstehen und weitergeben. Fehlt eines davon, ist es im Ernstfall verloren.

Daraus folgt Verantwortung, und zwar auf drei Ebenen.

Für jeden Einzelnen

  • KI als Sparringspartner nutzen, also erst selbst denken und dann die KI prüfen lassen.
  • Fähigkeiten, die im Ernstfall zählen, regelmäßig ohne Hilfe üben.
  • Das Wichtigste für den Notfall auf Papier haben: Telefonnummern, Treffpunkte, Abläufe.

Für Unternehmen

  • Für kritische Prozesse ein Notfallhandbuch, das zusätzlich zum Wiki ausgedruckt im Schrank liegt.
    (Wer gibt an dieser Stelle insgeheim zu, dass es auf einem schicken "Sharepoint-Folder" oder Dokumentenmanagement-System liegt? Oder in der super organisierten NIS2- oder KRITIS-Software?)
  • Rückfallebenen und Redundanzen schaffen. Genau das empfiehlt das BBK für die Notfallplanung, bei Notstrom mit einem Richtwert von mindestens 72 Stunden (BBK).
  • Neben dem, was ein System tut, auch festhalten, warum es das tut. Die Begründung fehlt im Ernstfall zuerst.
  • Wissen, wer welchen automatisierten Prozess wirklich versteht. Hängt ein Prozess an einer Person, ist das ein Risiko. Hängt das Wissen an einem KI-Agenten, wird es mindestens spannend.
  • Den Betrieb ohne Automatisierung üben, so wie man Brandschutz übt. Bainbridges Lektion von 1983 gilt für KI-Agenten genauso.
  • Betreiber kritischer Infrastruktur müssen seit dem KRITIS-Dachgesetz vom Januar 2026 ohnehin strengere Standards nachweisen (EnBW). Alle anderen sollten nicht auf eine Pflicht warten. Denn sonst wirds richtig dunkel

Für alle, die KI bauen und einführen

  • Leitplanken einbauen, die zum Mitdenken zwingen, etwa indem die KI schrittweise Hinweise gibt und die fertige Lösung zurückhält. Im Experiment mit den Schülern hat das den Lernverlust verhindert.
  • Quellen und Herleitungen sichtbar machen, damit Menschen prüfen können.
  • Jede Automatisierung mit einem verständlichen Rückfallweg planen.

Der Priester von Philae wollte, dass seine Inschrift ewig hält. Sie steht noch, aber über 1.400 Jahre konnte sie niemand lesen. Bei uns ist es umgekehrt. Unser Wissen ist jederzeit abrufbar, solange der Strom fließt, doch immer weniger Menschen verstehen es selbst.

Wie sieht Ihr Notfallarchiv aus?

Häufige Fragen

Wie wahrscheinlich ist ein Blackout in Deutschland?

Ein flächendeckender Blackout gilt als äußerst unwahrscheinlich, weil die Netze nach dem n-1-Prinzip ausgelegt sind. Das BBK nennt das Szenario sehr unwahrscheinlich, aber plausibel. Lokale Ausfälle über mehrere Tage kommen dagegen vor, zuletzt in Berlin im Januar 2026 mit rund 100 Stunden.

Was bedeutet das n-1-Prinzip?

Jedes einzelne Betriebsmittel im Netz, etwa eine Leitung oder ein Transformator, darf ausfallen, ohne dass andere überlastet werden. Kritisch wird es erst, wenn gleichzeitig ein zweites ausfällt.

Macht KI uns dümmer?

So pauschal nicht. Die hier zitierten Studien zeigen, dass Menschen weniger lernen und weniger kritisch prüfen, wenn sie KI als Antwortmaschine nutzen. Leitplanken, die schrittweise Hinweise geben und die fertige Lösung zurückhalten, können diesen Effekt verhindern.

Was hat Höhlenmalerei mit KI zu tun?

Bei beiden geht es darum, wie Wissen über Generationen und Krisen hinweg zugänglich bleibt. Die Hieroglyphen von Philae überdauerten in Stein, waren aber über 1.400 Jahre unlesbar. Digitales Wissen ist leicht zu lesen, braucht aber Strom und Menschen, die es verstehen.

Was sollten Unternehmen jetzt tun?

Kritische Abläufe offline dokumentieren, das Warum festhalten, Wissensträger kennen und den Betrieb ohne Automatisierung regelmäßig üben.

Quellen

Vergangenheit und Überlieferung

Stromnetz und Versorgung

KI, Automatisierung und Denken

Information icon

Wir benötigen Ihre Zustimmung zum Laden der Übersetzungen

Wir nutzen einen Drittanbieter-Service, um den Inhalt der Website zu übersetzen, der möglicherweise Daten über Ihre Aktivitäten sammelt. Bitte überprüfen Sie die Details in der Datenschutzerklärung und akzeptieren Sie den Dienst, um die Übersetzungen zu sehen.