Henry Zeidler begleitete als Hospitant die Proben zu Sibylle Bergs Inszenierung "RCE". Im Zuge eines Interviews stellte er Volker Birk vom Chaos Computer Club und technischem Lektor von Sibylle Berg einige Fragen die ihn während der Produktion beschäftigt haben.
Herr Birk, während des Schreiben ihres Romans "RCE" haben Sie Sibylle Berg beraten. Wie genau gestaltete sich diese Zusammenarbeit?
Die Zusammenarbeit mit Bille macht jede Menge Spaß. Zuerst fragt sie einem Löcher in den Bauch. Sie will alles ganz genau wissen. Da das Ganze nicht humorlos abläuft, wird's auch mal dunkelschwarz, ein Dialog entsteht.
Wenn sie einen Entwurf für ihr Buch hat, dreht sich's. Dann werde ich gebeten das technische Lektorat zu sein. Bille legt höchsten Wert darauf, dass sie keine technisch falschen Dinge schreibt, sondern dass was sie beschreibt technisch möglich sein könnte.
Könnte man die Welt wirklich mit ein paar gut ausgeführten Remote Code Executions übernehmen?
Das ist eine gute Frage, deren Antwort schwieriger ist als auf den ersten Blick ersichtlich. Tatsächlich gibt es "the winner takes it all"- Hacks. Man denke an den Solarwinds-Fall, bei dem eine Gruppe von Angreifern oder sogar ein einzelner, 499 der Fortune 500 Unternehmen aufgemacht hat. Und zwar bis zu dem Punkt, dass der oder die Angreifer mehr im IT-System der Unternehmen machen konnten als einer der Admins oder die Geschäftsleitung dort. Die Angreifer haben dabei nicht die Unternehmensnetzwerke direkt geknackt, sondern stattdessen das Entwicklersystem des Software-Herstellers Solarwinds. Dann haben sie das nächste Update der Netzwerkverwaltungssoftware mit Schadsoftware infiziert, die damit automatisch bei allen Kunden installiert wurde – 499 Mal. Ein Totalverlust.
Ähnliches ist auch für das Finanzsystem denkbar. Es gibt zentrale Stellen wie das SWIFT-System, das als Netzwerk zum Austausch elektronischer Informationen zwischen den Banken fungiert, oder die BIZ zum Beispiel. Das ist also keine reine Fantasie.
Die Frage ist vielmehr, was passiert dann, wenn der Fall eintritt? Im Solarwinds-Fall wurden ja nicht alle Fortune 500-Unternehmen in die Pleite geführt. Was genau an Schaden entstanden ist, halten die betroffenen Unternehmen geheim. Hier kommt die Fantasie der Autorin zum Tragen, schließlich ist es ein Roman. Technisch ist vieles möglich, mehr als den meisten klar oder angenehm sein dürfte.
© Moritz Haase
Die Nerds im Stück benutzen Propaganda in Form von Halbwahrheiten, Verschwörungserzählungen und Bedrohungsszenarien, um die Bevölkerung im großen Stil zu mobilisieren. Glauben Sie auch, dass man die Menschen nur noch auf diese Weise in Massen auf die Straße bringt?
Ich bin mir da nicht sicher. Die Wirkung von Propaganda oder neudeutsch: Public Relations, kann ja keiner bestreiten. Moderne Formen davon, wie das Nudging, werden von Politik wie auch von Unternehmen eingesetzt und bewegen die Welt. Wenn eine Pandemie ausgerufen wird, dann werden alle Menschen zum Mitmachen bewegt. Wenn es das Klima zu retten gilt, werden alle zu Klimarettern. Und so weiter. Das kann man auch gut finden. Wenn ein Anliegen damit durchgesetzt wird, dass man persönlich für eine gute Idee hält. Aber dass es das Phänomen gibt und wie stark es wirkt, ist hoffentlich unbestritten. Deshalb versuchen ja immer alle die Medien zu beeinflussen, gleich ob mehr herkömmliche Massenmedien oder aber Social Media. Man denke an die Twitter Files, die die Zusammenarbeit von Twitter mit staatlichen Akteuren und Geheimdiensten aufzeigen.
Aber wäre eine Aktion wie im Roman verdeckt durchführbar mit einem solchen Hebel? Technisch vielleicht ja. Aber in ihrer Wirkung? Auch hier fällt die Antwort wohl in den Bereich der Fantasie der Autorin.
Während der Proben haben wir, teils mit Erschrecken, festgestellt, was wir mit den uns verfügbaren Mitteln bereits alles an Ton- und Videomaterial fabrizieren können. Werden wir in Zukunft den Unterschied zwischen Realität und von der KI erzeugten Medien noch erkennen können oder sind wir Propaganda und Fake News gnadenlos ausgeliefert? Wie können wir uns dagegen wehren? Oder wie damit umgehen?
Mit einem Messer kann man einem Mitmenschen die Kehle durchschneiden, aber auch die Nabelschnur eines Neugeborenen, um ihn auf die Welt zu helfen. Es liegt an jenen, die das scharfe Gerät benutzen, was sie daraus machen.
Dass man ungeprüft nicht jeden Quatsch im Internet glauben darf, hat sich hoffentlich herumgesprochen. Das Problem wird vielleicht auf eine neue Stufe gehoben, aber im Wesentlichen bleibt es dasselbe. Will man etwas wirklich wissen, dann hilft nur das, was gute Journalisten machen: Kann man eine Nachricht aus zwei unabhängigen Quellen überprüfen? Wie steht es um die Interessenlage derjenigen die etwas erzählen? Sind sie befangen? Falls ja, was sagt denn die Gegenpartei? Daran wird sich nichts ändern, es ist heute auch nicht anders. Wer leichtgläubig ist wird schnell getäuscht.
Ich freue mich auf jeden Fall über Kunst mit KI.
Die fortschreitende Digitalisierung in allen Lebensbereichen ermöglicht die Überwachung der Menschen über ihre Daten.
Nicht nur ermöglicht. Die holistische Totalüberwachung und übrigens auch Manipulation, sind längst implementiert. Die Unehrlichkeit in der Diskussion liegt darin, dass jede Seite behauptet nur die jeweils andere mache so etwas. Dabei machen es alle. So hat zum Beispiel US-Präsident Trump die öffentliche Meinung manipulieren lassen. Das wissen die meisten. Weniger bekannt ist jedoch, dass auch sein Gegenspieler US-Präsident Obama, mittels Astroturfing Stimmung hat machen lassen. Das passiert aber nicht nur in der großen Politik; zum Beispiel hat die Lobbyorganisation "Broadband for America" gegen die Netzneutralität, mittels bezahlten Internettrollen, agitiert.
Es ist schon lange kein passives Überwachen mehr. Sondern man bekommt dynamisch andere Dinge zu Gesicht abhängig von dem, wie man eingeschätzt wird. Man beobachte mal welche Werbung man im Web angezeigt bekommt, nachdem man eine bestimmte Fernsehsendung im Smart-TV angeschaut hat. Als meine Frau ein Formel-1-Rennen geschaut hat, bekam ich, weil ich im selben Netz bin, plötzlich entsprechende Werbung auf meinem Laptop im Web. Das kann jeder selbst ausprobieren. Solche automatischen Methoden kann man nicht nur für kommerzielle Zwecke nutzen. Die verbreiteten Inhalte sind dabei individuell zugeschnitten.
"Real life is where the pizza man comes from." Volker Birk
Wie kann man sich als Person ohne Fachwissen um Coding und Computertechnik davor schützen?
Das ist ein politisches Problem. Nicht nur China, auch wir im Westen setzen immer mehr auf totale Überwachung und Kontrolle. Wenn wir uns das bieten lassen, landen wir eben auch in chinesischen Verhältnissen.
Es beginnt mit dem Smartphone. Mobiltelefone sind Überwachungs- und Lokalisierungsgeräte, mit denen man auch Videos anschauen kann – und sogar telefonieren. Gibt eine App dafür. Die Leute sind so auf die Geräte trainiert, dass sie sich nicht mehr vorstellen können, wie das Leben ohne ist.
Es ist jedoch wunderbar. Real life is where the pizza man comes from. Der Raum mit der hohen blauen Decke und der hellen Lampe drin ist superspannend: die Grafik ist hochauflösend, der Immersion Effect der 3D-Darstellung auch haptisch und olfaktorisch beeindruckend. Ich empfehle das selbst auszuprobieren! Einfach mal im Sommer schwimmen gehen oder wandern – raus ins Grüne. Abenteuer pur: der Stadtdschungel ohne Smartphone! Da hat es Namen an den Straßen, die werden wie bei Augmented Reality mitten im Bild angezeigt. Macht Spaß, mal ohne Unterstützung zu navigieren. Einen Versuch ist's wert!
In Ländern, wie China mit ihrem Social Credit System, ist es bereits zur Realität geworden, dass der Staat anhand der Auswertung persönlicher Daten die Teilhabe an der Gesellschaft mitbestimmt. Gehen Sie davon aus, dass in Europa ähnliche Systeme eingeführt werden?
Das E-ID-Projekt der EU und das CBDC (Central Bank Digital Currency) - Projekt sind ein und dasselbe. Genau das soll nun kommen – falls es die Insassen nicht verhindern.
© Moritz Haase
Schlussendlich: wie schätzen Sie die Zukunft der KI und die zunehmende Abhängigkeit von Technologie in unserer Gesellschaft ein? Müssen wir uns auf eine Dystopie einstellen, wie sie Sibylle Berg beschreibt?
Wir müssen uns auf das einstellen, was wir bereit sind mitzumachen.
Wo liegt für Sie die Hoffnung für einen konstruktiven Umgang mit digitalen Technologien?
Da muss ich Constanze Kurz vom Chaos Computer Club zitieren: „Ich hätt' schon gerne eine schöne Utopie“. Was die Hoffnung angeht, „Die Welt ist was Gemachtes“ (aus „Utopie“ von Dota Kehr) singt die Kleingeldprinzessin. Und recht hat sie damit.
Volker Birk studierte Mathematik, Informatik und Naturwissenschaften. Bekannt ist er u.a. als Sprecher für den Chaos Computer Club Schweiz und als Entwicklungsleiter von "pretty Easy privacy".
