KWS Lectures: Wer über KI reden will, sollte zuerst Stanisław Lem lesen

#KWS #Lectures: Wer über KI reden will, sollte zuerst Stanisław Lem lesen

#Gütersloh, 2. Dezember 2026

Die gegenwärtige Debatte über #Künstliche #Intelligenz leidet weniger an mangelnder #Technikkenntnis als an einem #Mangel an #begrifflicher #Tiefe. Es wird über #Rechenleistung, #Modelle, #Regulierung und #Ethik gesprochen – aber selten über das, worum es eigentlich geht: #Erkenntnisgrenzen, #Systemlogik und #Verantwortung unter #Unsicherheit.

All das hat #Stanisław #Lem bereits vor Jahrzehnten literarisch durchdrungen – präziser, radikaler und ehrlicher, als es viele heutige Positionspapiere vermögen. Wer beim Thema KI ernsthaft mitreden will, sollte Lem gelesen haben. Nicht als Nostalgie. Sondern als Voraussetzung.

Lem stellt die falschen Fragen – und trifft damit die richtigen

Lem fragt nie: Was kann ein System? Er fragt: Was passiert, wenn es funktioniert? Was passiert, wenn niemand mehr versteht, warum es funktioniert? Was passiert, wenn Regelkonformität gefährlicher wird als Zweifel? Genau das sind die Fragen, vor denen wir heute stehen.

Drei Texte, die man kennen sollte

»Test« (aus »Pilot Pirx«)

Diese Kurzgeschichte ist eine der klarsten Parabeln auf moderne KI Systeme. Ein perfekt trainierter Kandidat scheitert, weil er alles richtig macht. Pirx besteht, weil er zweifelt, Regeln verletzt, Verantwortung übernimmt, das System nicht für allwissend hält. Der Test prüft nicht Technik, sondern die Fähigkeit, im Ausnahmefall gegen das System zu handeln. Das ist Human in the Loop, lange bevor der Begriff existierte.

Zwei Raumfahrtkadetten absolvieren eine realitätsnahe Simulation. Der technisch überlegene Kandidat reagiert perfekt – und scheitert. #Pirx ist unsicher, zögert, bricht Regeln, verlässt die vorgesehene Perspektive – und überlebt. Der Test prüft nicht Können, sondern Verantwortungsfähigkeit im Ausnahmefall. Perfekte Regelbefolgung ist gefährlicher als Zweifel. #Spoiler: Es geht um zwei simulierte #Rettungsmissionen während der Pilotenausbildun, die Kandidaten wissen aber nicht, dass es nur Simulationen sind. Eine Fliege verursacht einen Kurzschluss – Pirx bekommt die Lage in den Griff, sein Kommilitone kollidiert mit dem #Mond.

»Ananke« (aus »Pilot Pirx«)

»Ananke« ist vielleicht Lems bitterster Text über technische Notwendigkeit. Hier geht es nicht um Fehler, sondern um Zwangsläufigkeit. Ein System läuft korrekt – und genau deshalb ist der Ausgang nicht mehr vermeidbar. Niemand entscheidet falsch. Aber Entscheidungen existieren nicht mehr wirklich. Das ist algorithmische Determination in Reinform.

Ein Raumschiff gerät durch eine Verkettung korrekt arbeitender Systeme in eine Lage, in der jede Entscheidung logisch ist – und dennoch unausweichlich ins Verderben führt. Niemand handelt falsch. Niemand ist schuld. Und doch ist das Ergebnis zwangsläufig. »Ananke« (»Notwendigkeit«) zeigt algorithmische Determination: Wenn Systeme perfekt funktionieren, verschwindet Entscheidungsfreiheit, ohne dass jemand sie abschafft. Spoiler: Marsraketen stürzen ab, weil der Prüfingenieur die KI Bordcomputer mit dem Anankastischen Syndrom »infiziert« hat (Kontrollwahn). Aufgrunddessen überlasten sich die Bordcomputer selbst und verlieren die Kontrolle.

»Die Verhandlung« (aus »Pilot Pirx«)

Lem beschreibt hier (in verschiedenen essayistischen und erzählerischen Varianten), wie Tests nicht mehr Systeme prüfen, sondern Menschen selektieren, die sich Systemlogiken unterwerfen. Der Test wird zum Anpassungsfilter, Konformitätsbeweis, Ausschlussmechanismus, Auch das ist erschreckend aktuell.

Spoiler: Pirx soll bei einem #Testflug zum #Saturn die Eignung einer besonderen Mannschaft beurteilen, die zum Teil aus Prototypen neuer, von echten Menschen oberflächlich nicht zu unterscheidender »nichtlinearer Automaten« besteht. In einer Krisensituation, bei der einer der Automaten beschließt, durch die #Cassinische #Teilung zu fliegen, wird durch Pirx’ Zögern eine (geplante) #Katastrophe vermieden und die Automaten erweisen sich dem Menschen als zwar technisch überlegen, in entscheidender, nämlich moralischer Hinsicht aber als unterlegen. In der Verfilmung zerreißt der Androide. Im Text verrät er sich dadurch, dass er überhaupt nicht reagiert, keinerlei Angst zeigt, absolut rational reagiert. Und es passiert ihm überhaupt nichts. Absolut unmenschlich.

Warum Lem heute verdrängt wird

Lem ist unbequem, weil er keine Lösungen anbietet, keinen Optimismus simuliert, keine Fortschrittserzählung liefert, keine Helden produziert. Er zeigt; Systeme können rational sein und trotzdem zerstörerisch wirken. Das passt schlecht zu einer Zeit, die #Technologie lieben möchte, ohne ihre Konsequenzen auszuhalten.

Der eigentliche Grund, Lem zu lesen

Nicht, um KI zu fürchten. Sondern um nicht naiv zu werden. Lem lehrt, dass Intelligenz keine Garantie für Kontrolle ist, dass #Automatisierung #Verantwortung nicht ersetzt, dass #Bewusstsein kein #Bonus, sondern eine #Störgröße sein kann, dass Zweifel manchmal die letzte Sicherheitsinstanz ist. Oder in einem Satz: Wer über KI spricht, ohne Lem gelesen zu haben, diskutiert über Werkzeuge, ohne ihre systemische Wirkung zu verstehen.

Das ist kein Literaturhinweis. Es ist eine intellektuelle #Mindestanforderung.