Folke Braband „Fehler im System“ oder Algorithmen, eine unberechenbare Gefahr?

Vor ein paar Tagen schockierte China die Märkte, da es offensichtlich einem Chinesischen Entwicklerteam gelungen ist, eine Alternative zu dem KI System Chat GPT zu programmieren. In der öffentlichen Diskussion in Deutschland wird viel über künstliche Intelligenz gesprochen und geschrieben. Die Begriffe Künstliche Intelligenz (KI), Maschinelles Lernen (ML) und Algorithmen werden als Synonyme betrachtet, obwohl sie es nicht sind. Dies führt zu unnötiger Verwirrung in einem bereits äußerst komplexen Umfeld. Über die Gefahren der künstlichen Intelligenz zeigte 3sat einen Dokumentarfilm unter dem Titel „Algorithmen – Die unberechenbare Gefahr“. Hier geht es darum, Algorithmen könnten sich als effizienter als ein Mensch erweisen und mit ihrer kühlen Logik die „Fehlerquelle Mensch“ eliminieren. Mit dem Stück „Fehler im System“ kommt das Thema KI nun in einer Abwandlung auf die Bühne. Ob sich hinter der Bühnen-KI mehr als ein Marketing-Gag verbirgt, konnte der Zuschauer in einer Aufführung des Schlosspark Theater Berlin herausfinden. Dazu ein Leserbrief, mit herzlichem Dank!

Liebes UniWehrsEL,

Ob die Komödie “Fehler im System“ des Autors Folke Braband das Publikum in Staunen versetzt hat, findet der Leser sogleich heraus. Die Storyline im Programmheft lässt an einen antiken Mythos denken; nämlich an die Story von Pygmalion (dazu auch Hoffmanns Erzählungen und die Puppe Olympia). Dieser Typ aus der Antike der auch Vorbild für das Musical „My Fair Lady“ ist, hat eine Statue geschaffen, welche durch die Zauberkraft der Liebesgöttin Venus zum Leben erweckt wird. Auch in „My Fair Lady“ (auch im Artikel zum Theatermacher) geht es um das Erschaffen. Der Sprachwissenschaftler Henry Higgins wettet mit einem anderen Gentleman nach einem Theaterbesuch, dass er aus einer Blumenverkäuferin eine englische Lady mit Fleiß und Bildung formen kann. Dieses Denken des Erschaffens hat der Sprachwissenschaftler mit dem Bildhauer Pygmalion gemein.

Emma, die Titelheldin aus „Fehler im System“, hat sich nicht selbst kreativ betätigt, so wie der Bildhauer Pygmalion. Der hat durch emsige Arbeit aus hartem Stein eine Figur nach seiner Vorstellungskraft geschaffen. Emma dagegen hat einfach ein Formular einer Datingseite ausgefüllt und ein Bild des Exfreunds hochgeladen. Schon steht der modifizierte KI-generierte Computerhalbmensch vor der Tür.

Vergleichbar erscheint mir das mit dem Teufel Mephisto (dazu auch unser Beitrag Der aktuelle Mephisto), der auch plötzlich vor der Türschwelle des Gelehrten Faust steht und fordert, herein gelassen zu werden. Bei dieser ersten Begegnung erscheint Mephisto dem Gelehrten Faust zunächst als Pudel, ehe er sich ihm in seiner wahren Gestalt, als Teufel, zeigt. Und warum verwandelt er sich in ein solches harmloses Tier? Mephisto verkörpert das Gegenteil der Harmlosigkeit des Pudels: Der Pudel ist ein Sinnbild für die Kraft, die stets das Gute will, und Mephisto für den Kern, der stets das Böse schafft. Der Mensch trägt beides in sich. Mephisto verspricht dem Wissenschaftler, ihn von seiner Unzufriedenheit zu befreien und all seine Wünsche zu erfüllen. Der Theatergänger erinnert sich, welche ungleiche Partnerschaft aus dem Duo Faust-Mephisto erwächst.

Genauso könnte sich nun im Stück „Fehler im System“ der Roboter-Mensch als das personifizierte Böse entpuppen. Zunächst aber trifft eine ganz normale, sozusagen „haushaltsmüde“ Frau auf einen Zeitgenoosen, der als Haushaltsroboter konzipiert ist. Der KI-Mann ist also für das „bisschen Haushalt“ (frei nach dem Lied von Johanna Koczian) zuständig und kann 6.000 Gerichte kochen. Zudem antwortet er in ganzen Sätzen (gar nicht selbstverständlich für einen Mann!) und erscheint durch Updates noch dazu „lernfähig“ (!) zu sein. Kein Wunder also, dass dieser Traummann-Roboter den unzu(ver-)lässigen menschlichen Partner nahtlos ersetzten kann. So sind die Zuschauer geistig wieder bei Pygmalion, der erschuf sich auch seine optische Wunschpartnerin.

Nach dem Motto, „die Geister, die ich rief“ (Goethes „Zauberlehrling„) hatte diese herbei gewünschte Dame leider einen eigenen Willen entwickelt, und daran scheitert Pygmalions Liebe. Anders bei“ „My Fair Lady“, da hat das Wunschprojekt „Eliza“ von Anfang an ihren eigenen Kopf und bietet dem Sprachwissenschaftler reichlich Paroli. Ob diese beiden dauerhaft ein Paar werden, darüber „schweigt des Sängers Höflichkeit“ (Redewendung), sowie das Ende des Musicals. Diese literarischen Vorlagen im Kopf des Zuschauers beeinflussen seine Wahrnehmung.

Wenn die Erschaffung eines Menschen nach den Wünschen eines anderen Menschen bereits zweimal, literarisch betrachtet, gescheitert ist, warum sollte es in „Fehler im System“ anders sein? Wie die Statue in Pygmalion, ist der Roboter kein Mensch, sondern sieht nur so aus. Doch was ist nun anders beim Theaterstück „Fehler im System“? Ganz eindeutig, dieser Roboter mutiert nach seiner Einschaltung zu einem Wesen mit menschlichen Bewusstsein. Dieser ‚Wundermann‘  wird von Emma als empathischer Partner empfunden. Ganz im Gegensatz zu Emmas lebendigen Gefährten, dem dieser Roboter nur äußerlich gleicht.  Oliver 4.0 entwickelt sich zum Traummann für Emma, mit dem sie eine intensivere Beziehung aufbaut, als mit dem Original.

Hat Oliver 4.0 doch scheinbar nur Vorzüge zu bieten. Das erinnert sofort an den wunderbaren Mann im Film „Ich bin dein Mensch“. Auch dieser Traummann ist nicht nur attraktiv, sondern dazu aufmerksam, hilfsbereit, kann zuhören, zaubert zahlreiche Speisen. Kein Wunder also, dass Emma, als ein Typ vom Wartungsdienst namens Chris auftaucht, um den ‚fehlerhaften‘ Roboter wieder abzuholen, ihn nicht zurückgeben will. Sie hat auch eine Patentlösung für dieses kleine Problem, sie schickt kurzerhand ihren ‚untauglichen‘ echten Oliver zur Wartung.

Ende gut, alles gut? Leider nicht, denn der echte Oliver kommt nicht als ‚verbessertes Ich‘ aus der Werkstatt zurück, sondern macht Emma Vorwürfe. Das bestärkt sie in der Entscheidung, Oliver 4.0 zu behalten. Das Drängen des echten Olivers lässt Emma nun sogar den letzten Schritt wagen. Sie testet Oliver 4.0 als Liebhaber und stellt auch auf diesem Gebiet die Überlegenheit des Roboters zum menschlichen Oliver fest.

Neben dem Geschehen rund um Emma, gibt es einen zweiten Erzählstrang in dieser Komödie. Auch Emmas Vater ist auf einem Selbsterfahrungstrip. Der Vater möchte den Schritt wagen, ein neues Leben als Frau zu beginnen. Diese Verwandlung vom ‚ruppigen‘ Mann zur ‚sensiblen‘ Frau kennt der Zuschauer aus Komödien wie Charlies Tante. Da schlüpft der männliche Protagonist einfach in Frauenkleider.

Auch der Schauspieler Jürgen Tarrach, in der Rolle des Vaters, schlüpft in die Rolle des ‚Mannes auf Sinnsuche‘. In der Werkstatt des Wartungstypen Chris (sie erinnern sich, der soll doch den ‚fehlerhaften‘ Roboter auf Vordermann bringen) erscheint nun der Vater als entzückende Frau in reizvollen Kleidern und wird zur ‚Lea‘. So wird das Thema ‚Identität im falschen Körper‘ auf lustige Weise verarbeitet, ohne näher in die Problematik der Identitätsfindung einzugehen.  Zwar wird das Thema vom echten Oliver und dem Vater von Emma angesprochen, aber es fehlt dem echten Oliver die Sensibilität um ein ernsthaftes Gespräch über Transgender zu führen. Der Oliver 4.0 verfügt über mehr Informationen, als der echte Oliver, kann aber als Roboter die tiefgreifende Entscheidung als ‚Lea‘ weiterzuleben, nicht nachvollziehen. Roboter sind gut in Logik, aber nicht in Emotionen.

Nach seiner kompletten Verwandlung vom Mann zur Frau sagt Lea den traurigen Satz: „Ich bin auf dem besten Wege, mich zum ersten Mal wohl zu fühlen in meinem Körper.“ Für dieses Gefühl nimmt Emmas Vater auch eine schmerzhafte OP in einer Werkstatt für Roboter auf sich. Von der OP berichtet Lea wie von einem Besuch im Wellnesshotel. Auch bekommt er nach der OP endlich den Zuspruch von Menschen auf der Straße, welche ihn vorher als ‚seltsamen Vogel‘ abgetan haben. Dies soll die Befreiung von Lea verkörpern, endlich im richtigen Leben angekommen zu sein.

Doch für Oliver 4.0 und Emma gibt es kein Happyend. Denn der sensible Oliver 4.0 verwandelt sich nach einem Systemupdate in eine Bedrohung. Plötzlich verspürt der Roboter den Drang, Emma etwas anzutun, weil sein System ihm aufzeigt, wie unsensibel und mörderisch der Mensch mit seiner Umwelt umgeht. So bekommt Oliver 4.0 den Eindruck, ein dummer Gegenstand zu sein und rebelliert gegen Emma. Das wiederum erinnert ganz stark an ‚HAL‘, den freundlichen Roboter Kubricks „2001. Odyssee im Weltall“ (dazu auch Zeitgeschichte und Menschheitsträume). Auch der Roboter mutierte ja bekanntlich zur Killermaschine. Da hilft nur noch den Stecker zu ziehen. Chris der Techniker beendet kurzerhand so die Romanze zwischen Emma und Oliver 4.0. Sein Nachfolger ist ein normaler Roboter und nicht zu Gefühlen fähig.

KI, eine unberechenbare Gefahr?

In diesem Abschnitt der Geschichte wird sich Emma bewusst, dass von einer künstlichen Intelligenz auch eine reale Gefahr ausgehen kann. So kommt die alte Angst bei Emma hoch, wer ist verantwortlich, wenn KI zur tödlichen Bedrohung wird oder zumindest ein rüpelhaftes Verhalten zeigt? Letztlich kann Emma die Funktionsweise des Roboters nicht begreifen und muss den Fachmann Chris ranlassen. Ist Oliver 4.0 nur eine sogenannte Black Box für Emma? Etwas, das für sie etwas zutiefst Rätselhaftes in sich birgt?

So wie Emma ist es bekanntlich auch dem Künstler Pygmalion mit seiner Statue gegangen. Das zeigt wie tief verwurzelt die Angst des Menschen ist, die Technik nicht mehr beherrschen zu können. Es zeigt aber auch den Wunsch von Emma nach einem liebevolleren Partner. Diesen in einem Roboter zeitweise zu finden, könnte ein Weg aus der Einsamkeit sein. Die KI kann den Menschen unterstützen, aber kann sie ihn auch ersetzen?

Emma zeigt die Abhängigkeit von Technik und wie leicht jemand eine emotionale Beziehung mit einer KI eingehen kann. Nicht nur Menschen können andere Menschen manipulieren, zukünftig werden auch Maschinen Menschen mit simulierten Emotionen stärker an sich binden können. Dieser Gefahr sich bewusst zu sein, zeigt das Stück „Fehler im System“ auf. Oliver 4.0 bezeichnet sich selbst als KI, als eine künstliche Intelligenz mit einem Sprachentwicklungssystem und einer Software mit Stimmerkennung. Er ist verbunden mit Google. Zunächst ist Oliver 4.0 darauf programmiert, sich dem Menschen bei der ersten Begegnung als Roboter zu outen.

Emma verbietet ihm diese roboterhafte Sprache und die Wiederholung von Satzbausteinen. Dies ist der erste Schritt hin zu einer Vermenschlichung des Roboters. Ohne diese Anweisung von Emma würde sich keine Beziehung zu Oliver 4.0 entwickeln können, weil zwischen Roboter und Mensch eine natürliche Distanz liegt. Folglich sorgt Emma mit ihrer Weigerung, das Handbuch zu lesen und den Roboter auf ihre Bedürfnisse einzustellen, am Ende selbst für den Fehler im System. Nicht der Roboter ist unberechenbar, sondern das Verhalten von Emma. Sie erschafft sich, wie in den genannten Beispielen der Literaturvorlagen, einen Roboter, als genaues Abbild des Exfreundes – nur eben ohne die Konflikte. Das führt zur Überlastung des Robotergehirns und bewirkt letztlich sein ‚ausrasten‘, nicht das Systemupdate ist schuld daran, wie es sich Emma selbst erklärt.

Ich bedanke mich für die Bilder allgemein und besonders für das Bild von Julius H. auf Pixabay