Content

V Komparative Analyse von Der Sandmann  und Ex Machina  unter Berücksichtigung von Aspekten der Sichtbarkeit, Macht und Subjektivität in:

Johannes Otte

Erschöpftes Bewusstsein, page 45 - 102

Sichtbarkeit, Macht und Subjektivität in E.T.A. Hoffmanns "Der Sandmann" und Alex Garlands "Ex Machina"

1. Edition 2020, ISBN print: 978-3-8288-4477-3, ISBN online: 978-3-8288-7508-1, https://doi.org/10.5771/9783828875081-45

Series: Literatur und Medien, vol. 11

Tectum, Baden-Baden
Bibliographic information
Komparative Analyse von Der Sandmann und Ex Machina unter Berücksichtigung von Aspekten der Sichtbarkeit, Macht und Subjektivität Eine kurze Zusammenfassung von Ex Machina Der junge Programmierer Caleb arbeitet für das Unternehmen der weltgrößten Suchmaschine ‚Bluebook‘. Während der Arbeit wird er per E-Mail benachrichtigt, dass er in einem unternehmensinternen Gewinnspiel ein Treffen mit dem Firmengründer Nathan gewonnen hat. Nathans hochmodernes Forschungsanwesen liegt abgeschieden in den Bergen und ist nur mit dem Helikopter zu erreichen. Bei Calebs Ankunft erklärt Nathan ihm, dass er an einer künstlichen Intelligenz forscht und Caleb die Aufgabe zukommt, einen Turing-Test an dieser durchzuführen. Die Treffen von Caleb mit der Androidin Ava sind in sieben Sitzungen unterteilt und laufen unter strengen Sicherheitsvorkehrungen ab. Caleb kann mit Ava nur durch eine Panzerglasscheibe kommunizieren, hinter der diese gefangen gehalten wird und jede Interaktion zwischen den beiden wird von Nathan durch Überwachungskameras mitverfolgt. Caleb ist schon früh davon überzeugt, dass Ava menschliches Bewusstsein besitzt. Sie zeigt Gefühle, Mitgefühl und macht Witze und scheint zudem noch amouröses Interesse an Caleb zu zeigen, welches dann auch schnell auf Gegenseitigkeit beruht. Während der Kommunikation zwischen den Beiden kommt es wiederholt zu Stromausfällen und damit zu Momenten, bei denen sich Caleb und Ava nicht von Nathan beobachtet fühlen. Ava teilt Caleb während eines Stromausfalls mit, dass er Nathan nicht trauen könne, was Calebs Verhältnis zu diesem eintrübt. V 1. 45 Nathan hält neben Ava noch eine zweite menschengleiche, aber sprachunfähige Androidin Kyoko als Bedienstete, der er sich gegen- über herrisch und ‚unmenschlich‘ verhält, was Caleb befremdet. Wenn Caleb dann Video-Archivmaterial von den Vorgängermodellen Avas sieht, die sich aufgrund ihrer Gefangenschaft selbst zerstören und Nathan ihm erklärt, dass Avas Bewusstsein nach diesem Experiment formatiert werden würde, entschließt sich Caleb diese zu befreien. Nathan hat aber Calebs Fluchtplan durchschaut und teilt ihm mit, dass es die ganze Zeit Caleb selbst war, der von Nathan getestet wurde. Nathan wollte feststellen, ob es Ava gelingt Caleb soweit zu verführen, dass er sich gegen Nathan auflehnt und Ava zur Flucht verhilft. Dies würde erst die wahre künstliche Intelligenz von Ava bestätigen. Caleb erklärt Nathan daraufhin, dass er den Fluchtplan, nämlich die Überschreibung des digitalen Sicherheitssystems der Forschungseinrichtung und Öffnung der Zellentür Avas, bereits einen Abend zuvor umgesetzt hat, als er den Alkohol-affinen Nathan betrunken gemacht und so seiner Beobachtungskraft beraubt hatte. Nathan versucht dann noch Ava wieder einzusperren, wird aber letztlich von dieser erstochen. Caleb muss nun feststellen, dass er sich zwar gegen den Überwacher Nathan erhoben, sich aber gleichzeitig dem posthumanen Subjekt Ava unterworfen hat, von dem er durchweg manipuliert wurde. Ava stellt sich jetzt als kalt und berechnend heraus. Ihre Gefühle für Caleb waren bloß vorgespielt und dienten nur dem Zweck ihrer Flucht. Sie bedient sich dann bei ihren Vorgängermodellen, um ihren Roboterkörper mit menschenähnlicher Haut zu bedecken, lässt Caleb zum Sterben verdammt eingeschlossen in dem Anwesen zurück und tritt ihren Weg in die Zivilisation an. Inhaltliche und thematische Parallelen zwischen Der Sandmann und Ex Machina Dass sich Ex Machina in eine Traditionslinie zu literarischen Vorgängern stellt, wird in dem Film selbstreflexiv verhandelt, wenn Ava mit Calebs Hilfe ihr Gefängnis verlässt. Sie wandert die Gänge des Anwesens entlang und entdeckt an einer Wand drapierte Masken, die an 2. V Komparative Analyse von Der Sandmann und Ex Machina 46 mögliche Vorgängermodelle erinnern. Die Masken scheinen allerdings noch keine menschlichen Züge aufzuweisen, sondern erinnern eher an die Masken des griechischen Theaters und verweisen so auf eine fiktionale Traditionslinie sowie auf die Evolution des Menschen. Der Film scheint in dieser Szene197 selbstreflexiv die Zugehörigkeit zu dem Genre der Science-Fiction und zu seinem thematischen Sujet der Erschaffung eines künstlichen Menschen darzustellen. Traditionslinie und Evolution Die explizite Durchführung des Turing-Tests in Ex Machina hat in Nathanaels Bekanntschaft mit Olimpia in Der Sandmann wahrscheinlich seinen frühesten literarischen Vorgänger. Das Nathanael von Coppola/ Coppelius und Spalanzani benutzt wurde, um durch ihn festzustellen, ob ihr Automat als ‚menschlich‘ empfunden wird, wurde schon mehrfach angemerkt.198 Auch wenn Nathan in Ex Machina das Experiment zwischen Caleb und Ava zunächst als Turing-Test bezeichnet, räumt er kurz darauf ein, dass es sich um eine Weiterentwicklung dieses Tests handelt. Schließlich führt er mit dem Roboterkörper Avas ihre Künstlichkeit bereits vor und gründet seinen Test somit auf die Frage, ob Caleb ihr, trotz der Offensichtlichkeit ihres künstlichen Wesens, Menschlichkeit zugesteht. Auch die Figuren-Namen in den beiden Geschichten weisen Gemeinsamkeiten auf. So ist es in Ex Machina der Erschaffer der Androi- Abbildung 2: 197 Vgl. Garland: Ex Machina, 01:28:11min. 198 Vgl. Wittig: Maschinenmenschen, S. 68; Drux: Marionette Mensch, S. 85. 2. Inhaltliche und thematische Parallelen zwischen Der Sandmann und Ex Machina 47 den, der Nathan heißt und damit den Namen des Protagonisten in Der Sandmann trägt. Mit dem Namen Olimpia scheint Hoffmann auf „das Bild der heidnischen Liebesgöttin der Antike“199 anzuspielen und auch in dem Namen Ava scheint die Verführung der biblischen Eva bereits angelegt. Ava kann zudem als ‚Avatar‘ lesbar gemacht werden, der „eine Projektionsfläche [des] Begehrens“200 darstellt, eine Facette, die auch Olimpia zukommt, da Nathanael sein Begehren auf diese projiziert. Die auffälligste Gemeinsamkeit von Erzählung und Film liegt wahrscheinlich in der Darstellung eines Protagonisten, der sich in eine Androidin verliebt.201 Dieses Begehren drückt die Ununterscheidbarkeit von Mensch und Maschine aus, welche die Integrität des menschlichen Subjekts in Frage stellt und damit den thematischen Kern der beiden Geschichten ausmacht. Auch in Ex Machina wird Subjektivität als ein Resultat eines internalisierten Machtverhältnisses dargestellt, dessen Ausgangspunkt die Sichtbarkeit des Individuums bildet. Das Forschungsanwesen Nathans trägt alle Züge eines Panopticons und er selbst kann mit der Figur des Coppelius/Coppola verglichen werden, da beiden die Rolle eines wahrnehmungsverändernden Wissenschaftlers zukommt, der an der Erschaffung eines künstlichen Menschen forscht. Nathanaels Wahnsinnsanfall beim Anblick der leblosen Olimpia findet sich auch in Ex Machina wieder, wenn Caleb sich selbst verletzt, um die Unterscheidung zwischen Mensch und Maschine überhaupt noch treffen zu können.202 Im Gegensatz zu Olimpia wird mit Ava jedoch ein souveränes posthumanes Subjekt gezeichnet, dass sich zum Schluss des Films über den Menschen erhebt. Allerdings kann argumentiert werden, dass dieser posthumanistische Moment im Sandmann mit der Figur der Olimpia bereits angelegt ist, da deren Menschenähnlichkeit am Ende der Erzählung zu gesellschaftlichen Veränderungen führt, die als Hinwendung zu Subjektivität und ‚Menschlichkeit‘ und Ablehnung der Maschinen bzw. künstlichen Menschen verstanden werden kann. 199 Kremer: Metamorphosen, S. 185. 200 Trüper: Von Menschenbildern und Textmaschinen, S. 501. 201 Vgl. Henke: “Ava’s body is a good one”, S. 138. 202 Vgl. Garland: Ex Machina, 01:13:50–01:15:25min. V Komparative Analyse von Der Sandmann und Ex Machina 48 Diese These kann dadurch gestützt werden, dass die naturwissenschaftliche Debatte um La Mettries L‘homme machine, dem in Ex Machina verhandelten Konzept der Singularität insofern gleicht, als dass in beiden Theorien die Frage nach dem maschinellen Nachbilden des Menschen gestellt wird. Das Konzept der Singularität wird in einem späteren Kapitel dargestellt werden. Bevor sich der Verhandlung des Panoptismus in Ex Machina gewidmet werden kann und so ein weiterer thematischer Bogen zum Sandmann geschlagen werden wird, soll der Frage nachgegangen werden, ob der Panoptismus als Theorie noch relevant genug ist, um einen Film aus dem Jahre 2015 zu analysieren. Seit der Erscheinung von Überwachen und Strafen haben schon viele Theoretiker die Überwindung der Disziplinargesellschaft ausgerufen und damit auch den Panoptismus als obsolet oder zumindest überholungsbedürftig erklärt. Gilles Deleuze hat 1990 die Ablösung der Disziplin durch die ‚Kontrolle‘ postuliert, das ‚Unternehmen‘ statt des Gefängnisses als neues Machtprinzip in der Gesellschaft beschrieben und den Eintritt in die Kontrollgesellschaft verkündet. Byung Chul Han beschreibt in Topologie der Gewalt203 die heutige Gesellschaft als Transparenz- und Leistungsgesellschaft, die er aus der Disziplinar- und auch der Kontrollgesellschaft herleitet und David Lyon und Zygmunt Baumann sprechen von einer heutzutage liquiden Überwachungsweise204 in einer Gesellschaft der flüchtigen Moderne, deren Überwachungsformen zum Teil post-panoptische Züge tragen. Gerade in den Surveillance Studies wurde sich kritisch mit der distanzlosen Hinwendung zu Foucault und insbesondere dem Rückgriff auf den Panoptismus zur Analyse von Überwachungssituationen auseinander gesetzt, da viele die gegenwärtigen technologischen Entwicklungen und damit einhergehenden Beobachtungsverhältnisse mit dem Panoptismus nicht mehr hinreichend abgebildet sehen. Exemplarisch für diese Position in der Debatte um die Relevanz von Foucault soll im Folgenden der Aufsatz Tear down the walls: On demolishing the panopticon205 von Kevin Haggerty erläutert 203 Han, Byung Chul: Topologie der Gewalt. Matthes & Seitz, Berlin, 2011. 204 Lyon, David; Baumann, Zygmunt: Daten, Drohnen, Disziplin. Ein Gespräch über flüchtige Überwachung. Suhrkamp, Berlin, 2013. 205 Haggerty, Kevin D.: Tear down the walls: on demolishing the Panopticon. 2006. 2. Inhaltliche und thematische Parallelen zwischen Der Sandmann und Ex Machina 49 und mit wissenschaftlichen Standpunkte abgeglichen werden, die dem Panoptismus weiterhin Aktualität und Relevanz zusprechen. Disziplin versus Kontrolle – Gilles Deleuze: Postskriptum über die Kontrollgesellschaften Ein signifikanter Unterschied zwischen Erzählung und Film ist der Umstand, dass sich die Handlung in Ex Machina größtenteils kammerspielartig in dem Forschungsanwesen eines Unternehmens abspielt. Die Tatsache, dass ein Konzern im Mittelpunkt des Films steht, ruft Assoziationen an Gilles Deleuzes Postskriptum über die Kontrollgesellschaften206 auf, da dieser in seinem Essay von 1990 eine Ablösung der Foucaultschen Disziplinargesellschaft durch das Einsetzen des Machtprinzips einer ‚Kontrolle‘ postuliert, welches aus der Struktur eines ‚Unternehmens‘ hergeleitet werden kann und so das Gefängnis als Machtprinzip der Foucaultschen Disziplin ablöst. Deleuze beschreibt, dass die Einschließungemillieus, an denen Foucault die Wirkungsweise des Panopticons exemplifiziert hat, in einer Krise befindlich seien. Das Individuum, so Deleuze, werde nicht mehr von einer geschlossenen Institution in die nächste überführt, wenn z.B. ein Lernprozess in der Schule oder der Ausbildung abgeschlossen sei, sondern das Individuum der Kontrollgesellschaft wird dadurch gekennzeichnet, dass dessen Wissensstand nie als ausreichend eingeordnet werde und so eine ständige Weiterbildung eingefordert würde. „In den Disziplinargesellschaften hörte man nie auf anzufangen (von der Schule in die Kaserne, von der Kaserne in die Fabrik), während man in den Kontrollgesellschaften nie mit etwas fertig wird“.207 Diese unfertige, ständig in einem Prozess befindliche Grundstruktur der Kontrolle drückt sich auch in der Entlohnung aus. In der Fabrik der Disziplinargesellschaft, die die Arbeitskräfte parzellierte und so beobachtbar machte, waren die Löhne verhältnismäßig homogen, wohingegen die Gehälter in dem Unternehmen der Kontrollgesellschaft einem steten Wandel unterliegen und so die Belegschaft einem 3. 206 Deleuze: Postskriptum über die Kontrollgesellschaften. 1990. 207 Deleuze: Postskriptum über die Kontrollgesellschaften, S. 257. V Komparative Analyse von Der Sandmann und Ex Machina 50 permanenten aber subtilen Konkurrenzdruck aussetzen. Deleuze führt hier zur Verdeutlichung das Beispiel von Fernsehshows an, in denen Personen in einem Spiel gegeneinander antreten. Die Teilnehmer einer solchen Fernsehshow übernehmen die oktroyierten, fiktiven Regeln des vorgegebenen Spiels und den damit einhergehenden Konkurrenzkampf, verinnerlichen diesen und wenden ihn wiederum auf sich selbst und die Gegner an. Hier wird deutlich, dass die Kontrolle des Unternehmens als Ideologie der Konkurrenz und auch eines kapitalistischen Wachstumsdrucks zu verstehen ist: „das Unternehmen verbreitet ständig eine unhintergehbare Rivalität.“208 Wie bei der oktroyierten Konkurrenzsituation in einer Spielshow im Fernsehen vergleicht sich der Angestellte in einem Unternehmen demnach ständig mit seinen Kollegen über Gehälter, Beförderungen und Hierarchien. Diese Rivalität wirkt allerdings unterschwellig, so dass Deleuze den Unterschied der Kontrolle zu der Disziplin so beschreibt, dass die sichtbare und sanktionierende Machtausübung der Disziplin durch die ‚Gasförmigkeit‘ der Kontrolle ersetzt wurde, die, um in dem Bild zu bleiben, nahezu unsichtbar ist und unausweichlich auf- und übernommen wird. Das unbewusst eingegangene relationale Konkurrenzverhältnis in den Kontrollgesellschaften beschreibt Deleuze mit der Analogie des entstandenen Wechselkurs-Verhältnisses des Geldes in den 1970er Jahren. In den Disziplinargesellschaften sei der Wert des Geldes (und damit der Individuen) fest an den Wert des Goldes geknüpft, so dass es eine relationale Erdung des Wertes gab. Seit der Aufkündigung des Goldstandards werden Währungen nur noch durch den Vergleich des Wertes untereinander bestimmt, eine Währung bekommt ihren Wert so nur noch in Abgrenzung von anderen Währungen. In den Kontrollgesellschaften ist demnach die Konkurrenz und Rivalität bereits strukturell eingeflossen, sie entbehrt aber gleichzeitig einer objektiven Grundlage und ist streng relational zu verstehen.209 Besonders aufschlussreich für das Verständnis des Zeitalters der Digitalisierung sind Deleuzes Überlegungen und Prognosen zum Einfluss des Computers auf die zukünftige Gesellschaft. Er beschreibt, dass sich das Individuum in der Kontrollgesellschaft zu einem ‚Dividu- 208 Deleuze: Postskriptum über die Kontrollgesellschaften, S. 257. 209 Deleuze: Postskriptum über die Kontrollgesellschaften, S. 258. 3. Disziplin versus Kontrolle – Gilles Deuleuze: Postskriptum über die Kontrollgesellschaften 51 um‘ entwickeln würde, das in sich gespalten ein digitales Double seiner selbst herausarbeiten würde. Der Binärcode des Computers würde dazu führen, dass Personen und auch Dinge zunehmend in diesem repräsentiert würden und sich so neben der realen Person eine digitale Version verselbstständigen würde, die wiederum direkten Einfluss auf das Leben und die Realität haben würde und von dieser nicht zu trennen sei. „Die numerische Sprache der Kontrolle besteht aus Chiffren, die den Zugang zu Informationen kennzeichnen bzw. die Abweisung. Die Individuen sind ‚dividuell‘ geworden, und die Massen Stichproben, Daten, Märkte oder Banken.“210 Den Zugang zu Information konkretisiert Deleuze noch, wenn er die Prognosen aufstellt, dass in naher Zukunft z.B. eine elektronische Check-Karte darüber entscheiden wird, ob eine Person eine bestimmte Wohnung oder einen Stadtteil betreten darf.211 Eine ähnliche Überlegung stellt er an, wenn er beschreibt, dass im Gefängnis-Betrieb elektronische Halsbänder zur Kontrolle der Inhaftierten eingeführt würden, eine Entwicklung, die heutzutage mit elektronischen Fußfesseln längst Wirklichkeit geworden ist. Die realen Fußfesseln werden zudem auch im offenen Vollzug getragen, können jederzeit geortet werden und erlauben und verweigern den Zugang zu bestimmten geografischen Bereichen. Eine ganze Reihe der Überlegungen Deleuzes haben sich so auch schon abseits von literarischen oder filmischen Fiktionen bewahrheitet. Man braucht keine Science-Fiction, um sich einen Kontrollmechanismus vorzustellen, der in jedem Moment die Position eines Elementes in einem offenen Milieu angibt, Tier in einem Reservat, Mensch in einem Unternehmen (elektronisches Halsband). Felix Guattari malte sich eine Stadt aus, in der jeder seine Wohnung, seine Straße, sein Viertel dank seiner elektronischen (dividuellen) Karte verlassen kann, durch die diese oder jene Schranke sich öffnet; aber die Karte könnte auch an einem bestimmten Tag oder für bestimmte Stunden ungültig sein; was zählt, ist nicht die Barriere, sondern der Computer, der die – erlaubte oder unerlaubte – Position jedes einzelnen erfaßt und eine universelle Modulation durchführt.212 Viele der Prognosen Deleuzes sind heutzutage schon Realität geworden und viele technische Apparate, die er für die Zukunft annahm, 210 Ebd. 211 Ebd., S. 261. 212 Ebd. V Komparative Analyse von Der Sandmann und Ex Machina 52 sind bereits entwickelt und werden eingesetzt. Auch die Rivalität, die die Individuen einer Kontrollgesellschaft untereinander verspüren und derer entsprechend sie sich auch verhalten, kann ebenfalls für die Gegenwart attestiert werden. Vor allem Deleuzes Äußerungen zu den digitalen Doubles, den Dividuen, die eine Gesellschaft im Zuge der Computerisierung ausbilden würde, scheint heutzutage in einem besonderen Maße zuzutreffen. So ist es heute selbstverständlich eine Online-Persona mit vielen unterschiedlichen social media accounts ausgebildet zu haben und diese werden zunehmend einflussreich im Hinblick auf Arbeitsmarktsangebote aber auch eines gesellschaftlichen Standings. Dass innerhalb der Online-Repräsentation von Personen auf die Wirklichkeit häufig der Begriff des ‚real life‘ benutzt wird, trägt den Deleuzsche Neologismus des Dividuums bereits in sich, da Individuum und Dividuum zeitgleich, aber in ein digitales Ich und ein reales Ich gespalten, existieren. Das in Ex Machina, einem Film, der sich mit der Digitalisierung, social media und künstlicher Intelligenz auseinandersetzt, Aspekte der von Deleuze beschriebenen Kontrollgesellschaft aufzufinden sind, ist nicht verwunderlich, zumal technische Entwicklungen, die Deleuze beschrieben hat, wie die Check-Karte oder elektronische Armbänder und Fußfesseln, heute beinahe als Alltagsgegenstände zu bezeichnen wären. Gerade aber die von Deleuze postulierte Überwindung der Disziplinargesellschaft von der Kontrollgesellschaft lässt sich an Ex Machina nicht bruchlos exemplifizieren. Der Film beinhaltet sowohl Aspekte, die einer Kontrollgesellschaft zugesprochen werden müssten, aber scheint in vielen Momenten eher Einschließungsmillieus, eine panoptische Beobachtungssituation und damit einhergehende Unterwerfungen der Figuren zu verhandeln. Anhand des Films kann so die Diskussion geführt werden, ob die Kontrollgesellschaft die von Foucault beschriebene Disziplinargesellschaft wirklich abgelöst hat und damit auch die Frage nach der Aktualität und Relevanz des Panoptismus beleuchtet werden. Im Folgenden sollen nun Aspekte der Deleuzschen Kontrolle in Ex Machina dargestellt und ebenfalls Brüche aufgezeigt werden, die die in dem Film inszenierten Kräfteverhältnisse eher als Momente einer panoptischen Machtausübung anmuten lassen. 3. Disziplin versus Kontrolle – Gilles Deuleuze: Postskriptum über die Kontrollgesellschaften 53 Machtprinzip der Kontrolle in Ex Machina Schon die erste Szene des Films drückt in zweierlei Hinsicht die von Deleuze formulierte Kontrolle aus. Zum einen wird das Auslesen Calebs durch seinen Computer dargestellt, zum anderen wird Caleb ein vermeintlicher Gewinn zugelost, der ihn erst dazu befähigt, den von Nathan veranlassten Turing-Test auszuführen. Zunächst wird demnach Caleb aus der Sicht seines Computers als Deleuzsches Dividuum dargestellt. Die Mimik, Gestik und Verhaltensveränderungen Calebs werden aufgezeichnet und ausgelesen, so dass ein Daten-Subjekt oder ein digitales Double von ihm entsteht. Dass Caleb nicht nur als Individuum wahrgenommen wird, sondern als Daten-Subjekt sozusagen fremdgesteuert wird, kommt auch später in dem Film noch einmal zum Ausdruck, wenn Nathan ihm gesteht, dass die Physis von Ava nach Calebs Präferenzen gestaltet wurde, die Nathan aus dessen Online-Verhalten abgeleitet hat. Es waren demnach die digitalen Spuren Calebs, die dessen reale Verführung mit ausgelöst haben. Auch die Tatsache, dass Caleb das Treffen mit Nathan und später dann auch mit Ava in einer unternehmensinternen Lotterie gewonnen haben soll, wie ihm suggeriert wird, erinnert an Deleuzes Ausführungen, dass die fiktiven Regeln, die von dem System oktroyiert werden, einer Spielshow im Fernsehen gleichen. In dieser ersten Szene kommen dann auch direkt alle Mitangestellten und gratulieren Caleb zu seinem vermeintlichen Gewinn, den dieser daraufhin unhinterfragt annimmt. Caleb übernimmt hier spielerisch die ‚kapitalistische Ideologie‘ der Kontrollgesellschaft und auch seine Kollegen betrachten die Gamifizierung ihrer Arbeitswelt als völlig selbstverständlich. In dieser ersten Szene werden somit wichtige Aspekte des Machtprinzips der Kontrolle verdeutlicht: Caleb wird als Dividuum, als Daten-Subjekt gezeichnet und als dieses in kapitalistischer Manier von einer Gewinn-Benachrichtigung angesprochen. All dies geschieht in einem durchgestylten, transparent verglastem Unternehmen, was einen wichtigen Aspekt darstellt, da hier das Unternehmen, so wie auch Deleuze es beschreibt, den Kern der Ideologie ausmacht, die in der Gesellschaft diffus verbreitet wird. So sind schon zu Beginn des Films viele wichtige Merkmale des Deleuzschen Kontroll-Begriffs in Szene gesetzt. 4. V Komparative Analyse von Der Sandmann und Ex Machina 54 Auch Deleuzes Äußerungen zu den Überlegungen Guattaris, dass in Zukunft bestimmte geografische Bereiche nur noch durch den Code einer Check-Karte zugänglich gemacht werden könnten, finden sich in Ex Machina wieder, wenn Caleb das Forschungsanwesen Nathans erreicht. Hier wird Caleb der Zugang erst ermöglicht, nachdem ihm eine Check-Karte ausgegeben wird und innerhalb des Anwesens sind ihm anhand dieser Karte auch nur bestimmte Bereiche zugänglich. Diese Bewegungsbefugnisse und Einschränkungen sind heutzutage allgegenwärtig, aber sie machen doch einen Unterschied für die Unterscheidung aus, ob die Machtverhältnisse in dem Film eher der Foucaultschen Disziplin oder der Deleuzschen Kontrolle zugeordnet werden sollten. Ein prägnanter Einschnitt in der Inszenierung des Films, der einem Rückschritt von einer Kontrollgesellschaft zu der Disziplinargesellschaft gleicht, findet mit Calebs Ankunft in Nathans Forschungsanwesen statt. Von da an entwickelt sich der Film größtenteils zu einem Kammerspiel, in dem die Überwachung von Einschließungsmillieus eine tragende Rolle spielen. Zu Beginn des Films befindet sich Caleb noch in einem hippen, transparenten Unternehmen und übernimmt die Fügung der ‚gasförmigen‘ Kontrolle, wenn er den Preis des Gewinnspiels annimmt. Mit dem Eintritt in Nathans Forschungsanwesen betritt Caleb dann jedoch wieder eine Architektur der Einschließungsmillieus, die einem Gefängnis nicht bloß dadurch ähnelt, dass das private Zimmer Calebs nur durch einen digitalen Schließmechanismus zugänglich ist, sondern auch der Tatsache, dass es keine Fenster hat, was in dem Film von Nathan noch einmal mit Nachdruck betont wird. Gerade die gesellschaftliche Überwindung der Einschließungsmillieus ist für Deleuze ein Charakteristikum für den Übergang in die Kontrollgesellschaft – in dem Film aber wird genau dieser Übergang rückabgewickelt: Es wird der Übergang von der offenen unternehmensartigen Kontrollgesellschaft in die geschlossene Disziplinargesellschaft architektonisch ausgedrückt. 4. Machtprinzip der Kontrolle in Ex Machina 55 Aktualität von Kontrolle und Disziplin Deleuzes Beschreibung der Kontrollgesellschaften kann in mehrfacher Hinsicht auf aktuelle Fragen zu Überwachung im Zeitalter der Digitalisierung angewendet werden. Seine Ausführungen zu der Ablösung des Gefängnisses als metaphorisches Prinzip der gesellschaftlichen Überwachung hin zu dem Bild des Unternehmens, dessen Ideologie von den Individuen unfreiwillig und widerstandslos übernommen würde, kann ganz konkret zu der Auswertung von massenhaft akkumulierten Datenmengen durch multinationale Konzerne (Big Data) verstanden werden. So wie Deleuze darstellt, dass der Mensch in den Kontrollgesellschaften zu Datensätzen zusammengefasst wird, findet schon seit vielen Jahren eine Kommodifizierung des Individuums statt, dessen Datenspuren zu Werbe- und Verkaufszwecken eingesetzt werden. Unter dem Macht-Prinzip des Unternehmens werden die Gesellschaftsteilnehmer gleichzeitig von der (kapitalistischen) Ideologie infiltriert und werden so gleichermaßen zu den Produkten von Unternehmen, indem die Spuren ihrer digitalen Doubles für Verkaufs- und Werbezwecke verwendet werden.213 In Ex Machina wird dieser Umstand durch die naheliegende Anspielung von Nathans Unternehmen zu großen Digitalkonzernen wie Facebook, Google oder Apple dargestellt. Auch Caleb ist einerseits Angestellter des Unternehmens und gleichzeitig ist er auch dessen Produkt, was dadurch ausgedrückt wird, dass er für den Turing-Test aggregiert und durch eine fingierte Gewinn-Benachrichtigung auf das Forschungsanwesen gelotst wird, um dort eine Funktion in Nathans Unternehmen auszuführen. Gerade Deleuzes Prognose, dass die Kontrollgesellschaften maßgeblich von der Digitalisierung geprägt werden würden, weist auf eine grundlegende Veränderung des Prinzips der Überwachungsweise hin. Die Überwachung in der Disziplinargesellschaft war, ganz im Sinne des Panopticons, noch zentralisiert und von einer Parzellierung, also räumlichen Aufteilung, der Individuen geprägt, die von einer einzigen Position aus überwacht wurden. Die Überwachungssituation in der Kontrollgesellschaft wiederum ist, wie Deleuze es schon beschrieben hatte, gasförmig, also zunehmend dezentralisiert und allumfassend. 5. 213 Vgl. hierzu: Schleusener: The Surveillance Nexus, S. 181 f. V Komparative Analyse von Der Sandmann und Ex Machina 56 Technische Entwicklungen, die die Überwachungssituation der Kontrollgesellschaften entsprechen, können z.B. in GPS- Systemen, Drohnen und vor allem auch durch von den Individuen selbst auf sich angewendete Apparate wie Fitness-Tracker, aber vor allem Smartphones gefunden werden,214 welche die Besitzer einer permanenten Überwachung aussetzen und verschiedenste Aufzeichnungen der Träger, mittlerweile bis hin zu biometrischen Aufzeichnungen, wie z.B. eines EKG durchführen.215 Obwohl Ex Machina ein Film ist, der sich mit den Auswüchsen der Digitalisierung auseinandersetzt, werden aber gerade diese Aspekte, die gut mit Deleuzes Postskriptum zu theoretisieren wären, kaum beleuchtet. Stattdessen lassen sich viele Merkmale der Foucaultschen Disziplinargesellschaft und des Panoptismus wiederfinden. Unter Berücksichtigung des Films lässt sich so die Diskussion führen, welche Rolle der Panoptismus und die daraus resultierende Selbstdisziplin und die Subjektivierungsweisen im Zeitalter der Digitalisierung spielen, und ob die These, dass die Kontrollgesellschaft die Disziplinargesellschaft abgelöst haben soll, einlösbar ist. Die Disziplinargesellschaft im Zeitalter der Digitalisierung Der von Deleuze postulierte Übergang von der Disziplinargesellschaft zur Kontrollgesellschaft fand und findet also keineswegs bruchlos statt. Gerade das von Foucault beschriebene Machtprinzip des Panoptismus wird auch in der Gegenwart noch häufig herangezogen, wenn z.B. die Struktur von Überwachungssituationen, auch im Bezug zur Digitalisierung, dargestellt werden soll. In seinem viel diskutierten Aufsatz Tear down the walls: On demolishing the Panopticon spricht Kevin Haggerty dem Konzept des Panoptismus zu Teilen dessen Theoriebildungsfähigkeit für gegenwärtige Überwachungsstrukturen ab. Entlang diesen Aufsatzes kann exemplarisch eine kritische wissenschaftliche Position an dem Konzept des Panoptismus nachvollzogen werden. Haggerty betrachtet den vor- 6. 214 Diese technischen Entwicklungen werden in einem späteren Kapitel als Überwachungssysteme ausgewiesen, deren Funktionsweise ebenfalls mit dem Panoptismus zusammengeführt und beschrieben werden kann. 215 Vgl. Schleusener: The Surveillance Nexus, S. 183. 6. Die Disziplinargesellschaft im Zeitalter der Digitalisierung 57 herrschenden Rang, den das Panopticon in den Surveillance Studies einnimmt als oppressiv, da so gewisse Überwachungssituationen nicht berücksichtigt werden, weil sie von dem Panoptismus nicht hinreichend abgebildet werden können.216 Gleichzeitig würde der schnelle, gewohnheitsmäßige Rückgriff auf das Panopticon zur Analyse den Blick auf bestimmte Überwachungsphänomene verstellen. So sieht Haggerty in den vielen Konzepten, die sich auch namentlich auf das Panopticon beziehen bzw. Neologismen aus dem Begriff des Panopticons ableiten (wie z.B. das Synopticon oder das Ban-Opticon) eher einen gewohnheitsmäßigen Rückbezug auf Foucaults Ausführungen als eine nüchterne Betrachtung neuer Überwachungsverhältnisse, die diese Konzepte zu erörtern versuchen.217 Gegenwärtige Überwachungssituationen, die das Panopticon nicht mehr in der Lage ist hinlänglich abzubilden, sieht Haggerty zum Beispiel in Internet-Blogs, in denen Menschen sich freiwillig, nach eigenem Bemessen zur Schau stellen. Ein weiteres Beispiel für eine Beobachtungssituation, in welche Menschen sich freiwillig und „lustvoll“ begeben, findet Haggerty sowohl in Reality Shows wie Big Brother, als auch in Webcams, vor denen sich Menschen zu selbstbestimmten Zeitpunkten und entlang ihrer selbstgesteckten Maßstäbe der Öffentlichkeit präsentieren.218 „That surveillance can be experienced from both sides of the lens as ‚fun‘ or liberating does not fit neatly within the preoccupations of the panoptic model.“219 Zudem meint Haggerty in Foucaults Ausführungen zum Panoptismus „typischerweise“ eine Hierarchisierung vorzufinden, die von oben nach unten, also von Mächtigen auf ihre Untergebenen, ausgehen würde. Diese Vorannahme würde aber heutzutage auf viele Überwachungssituationen nicht mehr zutreffen. Die gegenwärtige Überwachung ziele nicht mehr bloß auf die Untergebenen, Armen und Enteigneten, sondern richte sich in gleichem Maße auf die Bessergestellten, Wohlhabenden und Mächtigen. Gerade in Zeiten der Digitalisierung werde es zunehmend möglich für die Öffentlichkeit das Verhalten und Fehlverhalten der „Mächtigen“ nachzuvollziehen und gesammelte Da- 216 Vgl. Haggerty: Tear down the walls, S. 23. 217 Vgl. ebd., S. 26. 218 Vgl. ebd., S. 28. 219 Ebd. V Komparative Analyse von Der Sandmann und Ex Machina 58 ten den Medien zukommen zu lassen, um diese publik zu machen. „Surveillance then undergoes a qualitative transformation from routine recording and analysis of aggeregate trends to a motivated scrutiny of the documentary traces and data doubles that proliferate around powerful individuals“.220 Einen weiteren Bereich, in dem Haggerty das Konzept des Panoptismus an den Grenzen seiner Beschreibungskraft sieht, macht die Schnittstelle von Mensch-Maschine Überwachungssystemen aus. Diese würden zu selten in die Analyse der Surveillance Studies mit herangezogen, weil der habituelle Rückgriff auf den Panoptismus einerseits nur zwischenmenschliche Überwachungssituation als Analysefeld für sich beansprucht und außerdem der positive Ertrag, den Überwachung ebenfalls leisten und erbringen kann, von der negativen Konnotation, die in dem Panoptismus mitschwinge, nicht nachvollzogen würde. Als Beispiele für solche ‚positiven‘ Mensch-Maschine Überwachungssysteme führt er Satelliten Überwachung von bestimmten Erdregionen und deren Aufzeichnung von z.B. Trockenphasen oder auch den Nachwirkungen von Eruptionen oder tektonischen Plattenverschiebungen an.221 Diese und viele andere Phänomene von Natur- Überwachungen hätten signifikanten sozialen Einfluss, würden aber durch die Konzentration auf den Panoptismus, welcher den Fokus der Überwachungsbeschreibung intuitiv auf den Menschen lenke und Überwachung per se als etwas Negatives ansehe, zu oft vernachlässigt. Consider the monitoring of animalborne microbes that can infect humans. A case can be made that such surveillance had monumentally benefited the human species and secured the viability of particular human communities. The panoptic model does not seem to have inspired many analysts to explore the social and political implications of these and other forms of the surveillance of nature.222 Des Weiteren habe der Panoptismus die Technologisierung der Überwachung nicht im Blick gehabt und sich ausschließlich auf die Beschreibung menschlicher Überwachungssysteme beschränkt. Entwicklungen wie das Aufkommen von Apparaten, die biometrische Daten aufzeichnen, wie Fitness-Tracker z.B., Sensoren, Satelliten, aber auch 220 Ebd., S. 29. 221 Vgl. ebd., S. 31. 222 Ebd. 6. Die Disziplinargesellschaft im Zeitalter der Digitalisierung 59 DNA-Analysen seien durch den schnellen Bezug auf den Panoptismus aus dem Blick geraten und dieser könne deren Überwachungspotential eben nur teilweise erklären und einordnen. „The operative dynamics of these and assorted other surveillance devices only appear to be tangentially panoptic.“223 Einen entscheidenden Kritikpunkt, den Haggerty im Speziellen auf die Ausführungen Foucaults und nicht auf dessen Rezeption zurückführt, ist dessen Äußerung, dass die Art und die Position des Wächters für das Funktionieren des Panoptismus unerheblich sei. Diese Behauptung sei eine Fehlleistung, da es für die Konsequenzen einer Überwachung durchaus ausschlaggebend sei, wer diese durchführt.224 Es sei für die hervorgerufene Reaktion des Überwachten entscheidend, welche Haltungen, Vorurteile und Zielsetzungen in der Position und der Absicht des Wächters vereint seien. „In the surveillance of nature, for example, it matters if wildlife is being monitored by agents of Greenpeace or members of the National Rifle Association.“225 Des Weiteren seien die Überwachten im Panopticon größtenteils passiv der Überwachung ausgesetzt und dieser auch immer bewusst, da erst durch das Wissen von der Überwachung die Selbstdisziplinierung einsetzen könne. Dies sei in den Beobachtungssituationen der heutigen Zeit nicht immer der Fall. Die Überwachten können durchaus aktiv sein und nicht in einem parzellierten Raum überwacht werden. Außerdem sind sich die Gesellschaftsteilnehmer nicht immer voll bewusst, dass sie überwacht werden und zeigen in Teilen trotzdem ein Verhalten, das einen Konsens mit der Beobachter-Position einzugehen zu versuchen scheint. Ein typisches Beispiel für eine solche tendenziell eher unterschwellige Überwachung sei das Sammeln von Daten und deren Nutzung für z.B. Werbezwecke, aber auch die subtile digitale Aufzeichnung von Bewegungsmustern oder Kommunikationen.226 Eine weitere Grundhaltung bei der Beschreibung von Überwachung, die in den Surveillance Studies aus der Foucault Rezeption häufig übernommen würde, sei, dass das dystopische Potential von Überwachung überbetont werde. Foucault bleibt in Überwachen und Strafen 223 Ebd., S. 32. 224 Vgl. ebd., S. 33. 225 Ebd. 226 Vgl. ebd., S. 34 f. V Komparative Analyse von Der Sandmann und Ex Machina 60 zwar noch zurückhaltend, was die normative Wertung von Überwachung im Allgemeinen betrifft, äußerte sich dann aber in späteren Schriften tendenziell kritisch gegenüber diesen früheren Formulierungen in seinem Werk. Die Grundhaltung, Überwachung von vorne herein als negativ konnotiert zu beschreiben, würde gewisse Bereiche, in denen Überwachung durchaus als hilfreiche gesellschaftliche Komponente verstanden werden könne, nicht zu genüge in die wissenschaftliche Betrachtung einfließen lassen. Als weitere positive Beispiele einer Überwachung könnten die medizinischen Überwachungen etwa von Infektionen oder überwachungsunterstützende Geräte bei der Elternschaft genannt werden.227 Die Kritik Haggertys wurde vielfach rezipiert und hat den Blick auf bestimmte Phänomene, die nicht hinlänglich von dem Konzept des Panoptismus abgebildet werden können, gelenkt. Haggertys Auslassungen haben aber wiederum auch zu Kritik geführt, welche die Konzepte Foucaults gegen die Angriffe verteidigen, dessen Relevanz für zeitgenössische Überwachungssituationen betonen und so dessen Aktualität unterstreichen. Unter anderem hat Adrian Lobe diese Aktualität von Foucaults Konzepten der Gouvernementalität und des Panoptismus in seinem Buch Speichern und Strafen228 dargelegt. Der Titel seines Buchs ist eine klare Referenz an Foucaults Überwachen und Strafen und Lobe betont, dass Foucault ein „intellektuelles Erbe hinterlassen [habe], das Ansätze zur Erklärung des digitalen Wandels bietet […], weil er […] Machttechniken beschreibt, die sich als Erklärungsfilter […] für die Analyse programmierter Gesellschaften dienstbar machen lassen.“229 In seinem Buch konzentriert sich Lobe darauf bestimmte Phänomene der fortschreitenden Digitalisierung zu analysieren und deren Auswirkungen auf das Politische auszuführen. Lobe beschreibt unter anderem die strukturelle Ähnlichkeit der Überwachungssituation durch digitale Technologien mit Foucaults Ausführungen zum Panoptismus. So stellt Lobe dar, dass die noch neue Smart Home-Technologie, die Häuser digitalisiert und mit Mikrofonen, Kameras und Sensoren ausstattet, einem modernen Gefäng- 227 Vgl. ebd., S. 35. 228 Lobe, Adrian: Speichern und Strafen, 2019. 229 Ebd., S. 16 f. 6. Die Disziplinargesellschaft im Zeitalter der Digitalisierung 61 nis gleicht, in dem die Bewohner einer permanenten Überwachung und Durchleuchtung ausgesetzt sind.230 Sprachassistenten von Amazon, Google oder Microsoft würden laut Lobe genau die Aufgabe übernehmen, die im Vollzug einem Gefängniswärter zukommt: Sie hören mit, was gesprochen wird, kontrollieren die Bewegung und Anwesenheit der Nutzer und disziplinieren auch, wenn etwa der Blutdruck steigt oder es noch etwas einzukaufen gilt, das im Haushalt nicht mehr aufzufinden ist.231 Die Tatsache, dass bei der Nutzung des Internets eine permanente Protokollierung stattfindet, die unter vielem anderem die geografischen Standorte der Nutzer, Suchhistorien, Log-Ins und so weiter, aufzeichnet, ist mittlerweile allseits bekannt. Betrachtet man aber Lobes Ausführungen zu seiner Beantragung seines persönlichen Facebook- Profils, dass Facebook wie ein Protokoll über jeden seiner Nutzer führt, wird deutlich, wie nah diese Aufzeichnungen einem Staatssicherheits- oder Gefängnisprotokolls sind.232 So werden in diesen Protokollen sämtliche personenbezogene Daten, wie Geschlecht, Wohnort, Familienzugehörigkeiten, Ausbildung und ähnliches, aber auch komplette Chat-Verläufe gespeichert: „Gespräche, die man längst vergessen oder gelöscht hat. Intima mit Lebensgefährten. Auseinandersetzungen mit ehemaligen Freunden“.233 Das Facebook-Profil wirkt in seiner Struktur wie ein polizeilicher Steckbrief: Es gibt ein Poträtfoto, eine genaue Personenbeschreibung, biografische Eckdaten, eine für jedermann zugängliche Suchfunktion, aufgesuchte Orte, Bewegungsprofile. Was fehlt, ist lediglich der konkrete Tatvorwurf, der im kafkaesken Setting ungeklärt bleibt. Man wird ständig gesucht, von Algorithmen vernommen, aber kennt die Gründe nicht.234 Lobe schließt, dass die Nutzer von sozialen Medien einer „algorithmischen Untersuchungshaft“ ausgesetzt sind. Aber nicht nur diese Nähe zum Strafvollzug erinnert an Foucault, die Struktur der sozialen Medien und ihre Sichtbarkeits- und Beobachtungssituation ähneln der Überwachungsapparatur des Panopticons. Über sein Profil ist der Nut- 230 Vgl. ebd., S. 28. 231 Vgl. ebd. 232 Vgl. ebd., S. 144. 233 Ebd., S. 145. 234 Ebd. V Komparative Analyse von Der Sandmann und Ex Machina 62 zer einerseits ständig von einer diffusen Gruppe – einer Öffentlichkeit – einsehbar und so einer steten Beobachtung ausgesetzt, gleichzeitig begutachtet er selbst die Profile anderer Nutzer. So nimmt in den sozialen Medien jeder Nutzer zugleich die Rolle des Überwachten, sowie die des Wächters ein. „Jeder Facebook-Nutzer ist ein Profiler.“235 Diese lustvolle Freiwilligkeit der Überwachung, in die ein Nutzer sozialer Medien einwilligt, wird auch in der Diskussion von David Lyon und Zygmunt Baumann angesprochen und zum Teil als Spielart einer post-panoptischen Überwachung gedeutet. Diese Form der bereitwilligen Zustimmung in ein Beobachtungsverhältnis sei mit der Überwachungsstruktur, wie sie in einem Gefängnis vorherrscht, nicht mehr hinlänglich zu beschreiben, da sie, wie Lyon sagt, „in den Medien und beim Einkaufen sogar häufig mit Spaß und Unterhaltung einhergehen.“236 Ein weiterer Aspekt neuartiger Überwachungsverhältnisse, der nicht mehr zum klassischen Panoptismus passt, sei in der Abwesenheit einer zentralen Wächterfigur begründet. Auch wenn Foucault klar formuliert hat, dass auch im Panopticon die Wächter-Position nicht notwendigerweise ausgefüllt, also ein Wächter nicht zwingend anwesend sein musste, um das Gefühl der Beobachtung in dem Insassen hervorzurufen, müsse im Foucaultschen Panoptismus doch wenigstens zeitweise ein Wächter die Beobachtung übernehmen.237 Lyons Frage an Baumann, ob dieser die grundsätzliche Verabschiedung des Panopticons zur Theoretisierung gegenwärtiger Überwachungsverhältnisse, wie Haggerty sie formuliert hat, nachvollziehen würde, verneint Baumann allerdings kategorisch und drückt aus, dass das Panopticon heutzutage in gewisser Hinsicht noch wirkkräftiger sei, als es sich Foucault und auch Bentham hätten ausmalen können. „So wie ich es sehe, erfreut sich das Panoptikum bester Gesundheit, es bedient sich elektronisch optimierter, ‚cyborgisierter‘ Muskeln, die ihm mehr Macht verleihen, als es sich Foucault oder gar Bentham je hätten vorstellen können oder wollen“.238 Wie auch Lobe sieht Baumann in einigen technologischen Entwicklungen eine Verlängerung des panoptischen Prinzips. So sieht er eine Umkehr der normativen Reglementie- 235 Ebd., S. 147. 236 Lyon; Baumann: Daten, Drohnen, Disziplin, S. 15. 237 Vgl. ebd., S. 14. 238 Ebd., S. 74. 6. Die Disziplinargesellschaft im Zeitalter der Digitalisierung 63 rungen der Disziplinargesellschaft hin zu einer fingierten Freiwilligkeit, die in ihrem Effekt aber den gleichen Zweck verfolgt, wie es der klassische Panoptismus schon getan hat. „In allen Bereichen setzt man nunmehr statt auf Zwang auf Verlockung und Verführung […] und jedes mal wird damit die Verantwortung für das Erzielen der erwünschten Resultate von den Bossen auf deren Untergebene übertragen“.239 Statt einer zentralisierten Überwachung ist es nunmehr die Interpellation an die Individuen und Mitarbeiter, die Mithilfe von ‚bunten‘ Anreizen verschiedener Art geschmückt ist, die den Angerufenen dazu verleitet, im Sinne von ‚Technologien des Selbst‘, eine eigene Motivation hervorzubringen, die wiederum den angestrebten Resultaten des Panoptismus entspricht. Der Untergebene ist somit permanent damit beschäftigt, das Panopticon, welches sein Handlungsfeld konturiert, ständig selbst hervorzubringen. Das Panopticon wird, so Baumann, von jedem einzelnen wie ein „Schneckenhaus“ mit sich herum getragen. Als Exemplifizierung führt Baumann z.B. das Smartphone heran, welches die ständige Überwachung und stete Bereitschaft in sich trägt, damit dem Machtprinzip des Panopticons gleicht und von den Individuen in steter Abrufbereitschaft mit sich getragen wird.240 Auch Ivan Manokha sieht in der Selbstdisziplinierung und den ‚Technologien des Selbst‘, die als Resultat des Panoptismus hervorgerufen werden, Aspekte, die gerade im Zeitalter der Digitalisierung noch an Bedeutung gewinnen. Mit dieser Auffassung stellt sich Manokha Kritikern wie Haggerty entgegen, die dem Panoptismus gerade seine Theoriefähigkeit in Bezug zu modernen Technologien absprechen wollen. Manokha sieht in der ubiquitären oder, wie Lyon und Baumann sie benennen, „flüssigen“ Überwachung der heutigen Zeit, die nicht mehr nur eine zentralisierte Wächter-Position hat, sondern viele verschiedene, keinen Kritikpunkt, der den Panoptismus obsolet machen würde, sondern eher Phänomene, an denen dessen Wirken noch deutlicher herausgestellt werden kann.241 Ein prägnantes Beispiel für den Effekt einer Selbstdisziplin und Selbstzensur, die als Resultat einer pa- 239 Ebd., S. 76. 240 Vgl. ebd., S. 74–79. 241 Vgl. Manokha: Surveillance, Panopticism, and Self-Discipline in the Digital Age, S. 227. V Komparative Analyse von Der Sandmann und Ex Machina 64 noptischen Beobachtungssituation gewertet werden kann, sieht Manokha in Studien zu dem ‚Chilling Effect‘, wie dieser nach den Enthüllungen Edward Snowdens bezüglich der Machenschaften der National Security Agency (NSA), analysiert worden ist.242 Der (online) Chilling Effect beschreibt das Phänomen, dass Nutzer von z.B. sozialen Medien einer Menge von diffusen Beobachtern ausgesetzt sind, wenn sie etwas von sich preisgeben und daraufhin ihr Verhalten und die Inhalte, die sie präsentieren, hinterfragen und sich gewissermaßen selbst zensieren.243 Als Definition des Chilling Effects führen Marder et al. in einer Studie an: „the normalising of behaviour when under surveillance in line with the perceived standards, expectations and values of the perceived surveyor.“244 Diesen Effekt führen die Autoren explizit auf die Selbstdisziplin als Resultat des Panoptismus und auf Foucaults Ausführungen zu diesem zurück.245 Aufgrund der Vielzahl verschiedener, diffuser Beobachter-Positionen, denen sich ein Nutzer sozialer Medien ausgesetzt sieht, kommt es bei dem Veröffentlichen von Inhalten so oft zu einem ‘lowest-common denominator effect‘, der besagt, dass dadurch nur Dinge der Öffentlichkeit präsentiert werden, die von dem Großteil der ‚Beobachter‘ als nicht anstößig beurteilt werden.246 Dieser online Chilling Effect scheint sich, so Marder et al., aber in die Realität fortzusetzen. So übernehmen Nutzer sozialer Medien zum Teil selbstdisziplinierende Verhaltensweisen in ihren Alltag, da sie das Gefühl und die Angst in ihrem realen Leben fotografiert oder auf andere Weise aufgezeichnet zu werden, und so später online gestellt zu werden, entwickeln – dieser Effekt kann als ‚Extended Chilling Effect‘ bezeichnet werden.247 Manokha konzentriert sich in seinen Ausführungen zum Chilling Effect zuvorderst auf Studien, die sich auf die Auswirkungen der Veröffentlichungen Edward Snowdens zu den Ausspähungen der NSA beziehen. So sei als ein Resultat dessen Veröffentlichungen eine deutliche Einschränkung der freien Meinungsbekundung festzustellen gewe- 242 Vgl. ebd., S. 228. 243 Vgl. Marder et al: The extended ‚chilling‘ effect of Facebook, S. 582. 244 Ebd., S. 583. 245 Vgl. ebd. 246 Vgl. ebd. 247 Vgl. ebd. 6. Die Disziplinargesellschaft im Zeitalter der Digitalisierung 65 sen.248 Die Studien haben ergeben, dass einer von sechs Journalisten aufgehört habe zu einem bestimmten Thema zu recherchieren oder sich dazu zu äußern, wenn es eine Einbindung von Sicherheitsdiensten dafür erfordern würde. Gleichzeitig sei vor allem unter investigativen Journalisten eine deutliche Abkühlung der freiwilligen Preisgabe von Information auf Seiten der Quellen und Informanten festzustellen gewesen, was als Konsequenz der Möglichkeit einer Überwachung gewertet werden müsse.249 Aber auch in den sozialen Medien sei dieser Chilling Effect aufgrund der Berichterstattung zu dem NSA-Skandal nachzuweisen. So gaben 86 Prozent der in einer Studie befragten Probanden an, dass sie zwar in einem privaten Rahmen über die Überwachungsapparate der Regierung sprechen würden, aber nur 42 Prozent würden dies auch online und in den sozialen Medien tun.250 Der Chilling Effect würde sich zudem auch noch fester in dem Bewusstsein der Bevölkerung etablieren, weil Berichte über Überwachungen ein Bestandteil der multimedialen Berichterstattung und des kulturellen Diskurses geworden seien. Every day we learn from newspaper and journal articles, from documentaries and news bulletins, as well as from feature films and television series […] about new developments in surveillance. That is to say, people in Western democracies are increasingly made aware of the fact that they are being ‚watched‘ by different actors.251 Im Gegensatz zu der panoptischen Beobachtungssituation, wie Foucault sie hergeleitet hat, ist die Überwachungssituation heutzutage demnach dadurch geprägt, dass es eine unübersichtliche Menge unterschiedlicher Wächter-Positionen gibt. Durch die Mediatisierung immer neuer Überwachungen, denen sich der Gesellschaftsteilnehmer ausgesetzt sieht, steigt auch das diffuse Gefühl beobachtet zu werden und folglich kommt es alleine durch die Möglichkeit beobachtet zu werden zu einer Selbstdisziplinierung und auch einer Selbstzensur.252 Der Effekt dieser neuartigen Überwachungssituationen entspricht 248 Vgl. Manokha: Surveillance, Panopticism, and Self-Discipline in the Digital Age, S. 228. 249 Vgl. ebd. 250 Vgl. ebd., S. 229. 251 Ebd. 252 Vgl. ebd., S. 231. V Komparative Analyse von Der Sandmann und Ex Machina 66 demnach genau den von dem Panoptismus hervorgerufenen Verhaltensänderungen. Diese Überwachungssituationen sind durch die Digitalisierung omnipräsenter denn je zuvor. Haben sich die Ausführungen Foucaults zum Panoptismus noch größtenteils auf Einschließungsmillieus bezogen, in denen die Überwachung stattfand, scheint die Überwachung heutzutage nicht mehr geografisch limitiert und auch zeitlich nicht mehr fixiert zu sein. Die panoptische Sichtbarkeit in den Einschließungsmillieus war noch durch Brüche gekennzeichnet: Mit dem Ende der Schulzeit oder der Arbeit in der Fabrik endete auch die sanktionierende Überwachung in diesen Bereichen, bis sie im nächsten parzellierten Raum erneut einsetzte. Im Zeitalter der Digitalisierung wiederum hört diese Überwachung nie auf und auch das Gefühl unter einer Beobachtung zu stehen begleitet die Individuen fortwährend in ihrem Alltag. Die Objekte, die diese andauernde Überwachung gewährleisten, sind etwa Smartphones, Fitness-Tracker, digital vernetzte Uhren und elektronische Assistenten.253 In addition to this, any online activity that individuals engage in (shopping, social media, Internet surfing, etc.) is also recorded and processed by some kind of ‚watchers‘. That is to say, even though the identity of these ‚watchers‘ who collect the information at each particular moment in time may vary, it is plausible to argue that today‘s visibility of individuals is closer and closer to being universal.254 Die permanente Überwachung und die Tatsache, dass jegliche digitale Spuren gespeichert werden, verhindern zudem das Austesten der Beobachtungssituation, wie sie im Benthamschen und Foucaultschen Panoptismus noch möglich gewesen wäre. In der panoptischen Gefängnissituation hätte ein Insasse durch leichtes Übertreten der Regeln noch austesten können, ob er sich tatsächlich gerade unter Beobachtung befand und diese Verstöße sukzessive ausweiten können. Dies ist in der digitalen Überwachung nicht mehr möglich, weil sich die Individuen hier einer permanenten Überwachung ausgesetzt sehen und al- 253 Vgl. ebd., 254 Ebd. 6. Die Disziplinargesellschaft im Zeitalter der Digitalisierung 67 le Überschreitungen aufgezeichnet werden und rückblickend nachvollzogen und bestraft werden können.255 Diese ubiquitäre Sichtbarkeit, die sich durch die Digitalisierung ausgebreitet hat, sich weiter verstärkt und fortentwickelt, macht deutlich, dass hier nicht mehr nur der oppressive Charakter des Panopticons als Deprivation und als Effekt einer Beobachtungssituation zum Ausdruck kommt, sondern vor allem eine Selbstdisziplinierung in den Überwachten Individuen hervorgerufen wird, die Foucault in seinen späteren Schriften als ‚Technologien des Selbst‘ beschrieben hat. Unter Berücksichtigung der digitalen Überwachungssysteme wird deutlich, dass der Panoptismus jenseits der analogen Mauern des Benthamschen Gefängnisentwurfs weitere und zum Teil noch wirkkräftigere Auswüchse entwickelt hat. Manokha schließt seine Ausführungen zu der Aktualität des Panoptismus mit der klaren Feststellung, dass das Panopticon zur Analyse von Überwachungssituationen in der heutigen Zeit keinesfalls ausgedient habe, sondern, im Gegenteil, noch wichtiger zur Erfassung bestimmter Phänomene sei als in den vorherigen Jahrhunderten. „Not only is the metaphor of the Panopticon still relevant but that it is actually more relevant now than it was with respect to Western society of the nineteenth and twentieth century.“256 Ein Großteil der Kritikpunkte, die dem Panoptismus seine Relevanz im Zeitalter der Digitalisierung absprechen wollten, konnten so aus unterschiedlichen wissenschaftlichen Bereichen wieder eingeholt werden. Im Folgenden soll nun der Panoptismus als Analyseinstrument der dargestellten Machtverhältnisse und Subjektivierungsweisen in Ex Machina angewendet werden und damit eine weitere thematische Brücke zu Hoffmanns Sandmann geschlagen werden. Panoptismus in Ex Machina Überwachung und die damit einhergehende Verhaltensveränderung der Überwachten ist in vielerlei Hinsicht ein zentrales Thema in Ex Machina. Gleich in der ersten Szene des Films wird diese Form der 7. 255 Vgl. ebd., S. 232. 256 Ebd., S. 233. V Komparative Analyse von Der Sandmann und Ex Machina 68 Machtausübung dargestellt. Der junge Programmierer Caleb sitzt in einem modern designten Großraumbüro vor seinem Computer, als ihn die Nachricht des Gewinns eines Treffen mit dem Gründer und CEO seiner Firma erreicht.257 Der Point of View258 ist in vielen Einstellungen der einer Computerkamera, die Caleb aufzeichnet und in dem Moment, als er seinen vermeintlichen Gewinn per Smartphone seinen Freunden mitteilt, huschen glitzernde Laser-Netze über sein Gesicht, als würde seine Reaktion von einem Computersystem gescannt und ausgelesen. Welche Instanz seine Emotionen gerade abliest wird deutlich, wenn die Kamera über seinem Computerbildschirm eingeblendet wird, die, so wird suggeriert, gerade seine Reaktionen aufzeichnet. Caleb not only observes the world through the internet by using his technological devices but is constantly observed by them, too, thus blending the physical world with virtual reality. This is indicated by the camera subtly taking on the perspectives of both his smartphone and his webcam for a short moment. In addition, the film camera adds a kind of ‘digital layer’ over his face and body what seems to be like a blue net scanning, measuring and permeating Caleb while he communicates by means of his devices.259 Dass Computerkameras die Nutzung von Suchmaschinen und Social Media Mechanismen einer panoptischen Machtsituation darstellen, wird in Ex Machina mehrfach verhandelt. So erinnert die Namensgebung des Unternehmens von Nathan als ‚Blue Book‘ stark an Facebook, dessen Logo ein weißes ‚f ‘ vor blauem Hintergrund ist. 257 Vgl. Garland: Ex Machina, 00:01:10–00:01:42min. 258 Vgl. zu POV Lange: Einführung in die Filmwissenschaft, S. 51. 259 Henke: „Ava‘s body is a good one“, S. 133. 7. Panoptismus in Ex Machina 69 Caleb aus Sicht seines Computers Die panoptische Qualität digitaler Plattformen ist ein wiederkehrendes Motiv in Ex Machina und weist auf das neu entstehende Überwachungsverhältnis durch die Erfindung einer singulären künstlichen Intelligenz hinaus, die den Menschen aufgrund ihrer Vernetztheit auch ständig auslesen würde. Ein Beispiel, dass die permanente Überwachungssituation der Smartphone-Besitzer und Nutzer von sozialen Medien illustriert, findet sich in Nathans Vorgehen wieder, um die Sprachfähigkeit von Ava zu initiieren. Nathan erklärt Caleb, dass er die Mikrofone und Kameras aller Nutzer von Blue Book angeschaltet, also dauerhaft abhören und abfilmen ließ, und diese Daten mit Avas Betriebssystem verschaltet hat. NATHAN: Almost every cell phone has a microphone, a camera, and a means to transmit data. So I switched on all the mikes and cameras, across the entire fucking planet, and redirected the data through Blue Book. Boom. A limitless resource of facial and vocal interaction. CALEB: You hacked the world’s cell phones? NATHAN: And all the manufacturers knew I was doing it. But they couldn’t accuse me without admitting they were also doing it themselves.260 Die erste Szene des Films nimmt diesen technischen Eingriff in die digitalen Überwachungssysteme schon vorweg, wenn Calebs Gesicht von der Kamera seines Computers gescannt und seine Reaktionen und Emotionen aufgezeichnet werden. Digitale Technologie und Interakti- Abbildung 3: 260 Garland: Ex Machina, 00:37:13–00:37:34min. V Komparative Analyse von Der Sandmann und Ex Machina 70 onen auf Social Media Plattformen können so als moderne Substitute des Panopticons, als digitales Panopticon, verstanden werden.261 Die Position des Beobachters bleibt diffus und die Überwachung permanent. Eine Machtausübung durch Beobachtung wird in Ex Machina auch explizit durch die wiederkehrenden Überwachungskameras angezeigt. Visuelle Überwachungssysteme (im Englischen ‚Close Circuit Television‘, kurz CCTV) führen die Mechanismen von Foucaults Panoptismus deutlich vor Augen, da sie „eine besondere Form der Wahrnehmung [erzeugen], die man als reflexive Selbstbeobachtung bezeichnen könnte.“262 Die Überwachungskamera nimmt die Position des Wächters des Panopticons, der Beobachtete die Position des Gefangenen ein. Dem Beobachteten ist es nicht möglich zu verifizieren, ob er gerade tatsächlich überwacht wird, alleine die Möglichkeit beobachtet zu werden, löst eine Verhaltensveränderung aus, die einen Konsens mit dem diffusen Überwacher herstellen möchte. Der Bereich der Beobachtung fungiert so als Gefängniszelle, die ausgeleuchtet wird und die Fremdbeobachtung schlägt in eine Selbstbeobachtung um.263 CCTV als ‚soziotechnische Maßnahme‘ zielt auf eine Habitusveränderung der beobachteten Subjekte und auf eine parzellierte Zerlegung des Raums in individualisierte Daten, die analysierbar sind. CCTV setzt auf direkte und indirekte Subjektkontrolle.264 Sowohl der direkte Effekt der Überwachungskamera als Fremdbeobachtung sowie die indirekte, internalisierte Selbstbeobachtung werden in Ex Machina reflektiert. Während Calebs Gesprächen mit Ava werden beide von Überwachungskameras gefilmt und von Nathan beobachtet. Dass die Forschungseinrichtung Nathans einem Panopticon entspricht, wurde schon mehrfach erwähnt.265 261 Vgl. Jacobson: Ex Machina in the Garden, S. 31. 262 Stiegler; Rimmele: Visuelle Kulturen, S 118. 263 Ebd., S. 121. 264 Stiegler; Rimmele: Visuelle Kulturen, S. 116. 265 Vgl. Di Minico: Ex-Machina and the Feminine Body, S. 73; Jacobson: Ex Machina in the Garden, S. 31. 7. Panoptismus in Ex Machina 71 Ava und Caleb in Nathans Panopticon Als Ava Caleb während einer ihrer Sitzungen auf sein Verhältnis und seine Verbundenheit zu Nathan anspricht, drückt dessen Reaktion eine aus der Überwachungssituation resultierende Verhaltensänderung aus. Ava fragt Caleb „Do you like Nathan?“ Caleb zögert „Yes. Of course.“ AVA: „Is Nathan your friend?“ An dieser Stelle wird auf eine an der Decke befindliche Überwachungskamera geschnitten, deren Präsenz Caleb gerade sehr bewusst zu sein scheint. Er erwidert stockend. CA- LEB: „My friend? Yeah. I hope so.“ AVA: „A good friend?“ Caleb zögert wieder. CALEB: „Ahm. Yeah. Well, no. A good friend is-“266 In dieser Passage wird die panoptische Machtausübung deutlich, die das Handlungsfeld Calebs strukturiert. Seine Äußerungen über sein Verhältnis zu Nathan entsprechen nicht der Wahrheit, sondern versuchen einen Konsens mit dem Überwacher, der von oben ‚herabblickenden‘ Kamera, herzustellen. In dieser Szene wird der Chilling Effect als Resultat einer panoptischen Beobachtungssituation deutlich. Die Verhaltensveränderung aufgrund der Überwachungssituation wird noch einmal explizit verhandelt, wenn Ava Caleb erklärt, dass sie für die Stromausfälle verantwortlich ist, die das Überwachungssystem lahmlegen, damit sie und Caleb sich ohne das Gefühl einer Macht zu unterliegen kennenlernen könnten. Während eines Stromausfalls, der die Räumlichkeiten in rotes Licht taucht, spricht Ava die Konsequen- Abbildung 4: 266 Garland: Ex Machina, 30:06–30:23min. V Komparative Analyse von Der Sandmann und Ex Machina 72 zen ihres unaufrichtigen Verhaltens wegen der Überwachungssituation direkt an. CALEB: Why did you tell me that I shouldn’t trust Nathan? AVA: Because he tells lies too. […] CALEB: Including the power cuts? […] Don’t you think it’s possible that he’s watching us right now? That the blackouts are orchestrated, so he can see how we behave when we think we’re unobserved. AVA: I charge my batteries via induction plates. If I reverse the power flow, I cause a surge equal to the static discharge of a lightning strike. It overloads the system. CALEB: You’re causing the cuts? AVA: So we can see how we behave when we are unobserved.267 Alleine die Möglichkeit überwacht zu werden reicht aus, damit Caleb sein Verhalten ändert und hinterfragt. Das Machtverhältnis, dass sich auf die bloße Anwesenheit der Überwachungskamera gründet, entspricht einer Internalisierung der panoptischen Machtmechanismen. Wie in Der Sandmann befindet sich der Protagonist in Ex Machina in einem steten Sichtbarkeitsverhältnis. Sind es in Hoffmanns Erzählung die Blicke und Sichtbarkeits-Substitute in Form von Brillen und Ferngläsern, die auf Nathanael lasten und dessen Handlungsfeld strukturieren, fußt das Ausleuchten Calebs in Ex Machina vordergründig auf den Überwachungssystemen Nathans, aber auch unterschwellig auf der Technologie von dessen Suchmaschine, die Caleb von Beginn an gescannt und ausgelesen hat. Coppelius/Coppola und Nathan können im Sinne Foucaults Machttheorie somit beide als eine Personifizierung des Panopticons verstanden werden, da ihnen eine beinahe omnipräsente Überwachungsfunktion zukommt, die das Handlungsfeld der Protagonisten strukturiert. Nathan als Wiedergänger des ‚Panopticons Coppelius‘ Wie beschrieben kann die Figur des Coppelius/Coppola in Der Sandmann als Prinzip eines panoptischen Machtverhältnisses verstanden werden. Die Beschreibung von Coppelius als „medientechnologischer 8. 267 Garland: Ex Machina, 52:45–53:21min. 8. Nathan als Wiedergänger des ‚Panopticons Coppelius‘ 73 Magier“268 kann für Nathan in Ex Machina ebenfalls geltend gemacht werden. Coppelius/Coppola kommt in Hoffmanns Erzählung die Rolle eines Wissenschaftlers und Erfinders zu, der die Grenzen der modernen Wissenschaft um 1800 austestet. Er versucht einen künstlichen Menschen zu erschaffen, ein Versuch, der als Verweis auf das Erschaffen menschenähnlicher Automaten zu Hoffmanns Zeit verstanden werden kann. Gleichzeitig tritt er als Optiker auf, der die Sichtweisen mit seinen Sehinstrumenten verändert, ganz im Sinne einer Laterna Magica oder Camera Obscura, welche den neuesten Stand optischer Medien der Entstehungszeit des Sandmanns darstellten.269 Nathan in Ex Machina ist auch in diesem Sinne mit der Figur des Coppelius/Coppola vergleichbar. Nathan hat die meist genutzte Suchmaschine seiner Zeit programmiert und nutzt diese unter anderem, um einen künstlichen Menschen herzustellen. Gleichzeitig verändert er die Verhaltensweise des Protagonisten Caleb, in dem er ein Persönlichkeitsprofil von ihm erstellt, seine physischen Emotionen ausliest und ihn mit einer fingierten Gewinnbenachrichtigung auf sein Anwesen lotst. Das Anwesen Nathans trägt dann auch viele Züge eines modernen Panopticons. Die Überwachungskameras fungieren als Wachturm, deren disziplinierende Blicke permanent auf den Überwachten lasten und deren Beobachter im Verborgenen bleiben. Die internalisierte Selbstbeobachtung wird dann auch verschiedentlich verhandelt und findet ihren Ausdruck zum Beispiel in den vorsichtigen, nicht ganz aufrichtigen Dialogen zwischen Caleb und Ava. Kurz bevor der vermeintliche Turing-Test abgeschlossen werden soll, eröffnet Nathan dann Caleb das Ausmaß dessen Manipulation. Nathan hatte ihn von vorne herein ausgewählt dieses Experiment durchzuführen, dessen Gegenstand nie Ava sondern Caleb selbst war. An ihm sollte getestet werden, ob Ava sich durch Nutzung ihrer Kreativität aus ihrem Gefängnis befreien könnte. Nathan erklärt auch, dass er Avas Physis nach den Vorlieben Nathans entwickelt hat, die er aus dessen Online-Präferenzen mittels seiner Suchmaschine extrahiert 268 Brandes: Optische Täuschungen, S. 129. 269 Vgl. ebd., S. 131. V Komparative Analyse von Der Sandmann und Ex Machina 74 hat.270 Calebs Subjektivität ist demnach ein Resultat von Nathans panoptischen Machtmechanismen. Das Ende von Ex Machina führt dann jedoch vor, was Foucault in Subjekt und Macht als Aufbegehren gegen bestimmte Formen der Subjektivierung formuliert hat.271 Subjektivierung und Widerstand in Ex Machina In Ex Machina kommt es in zweifacher Hinsicht zu einer Auflehnung gegen eine dominierende Form der Subjektivierung: Caleb erhebt sich gegen die panoptischen Machtverhältnisse Nathans und überwindet dessen Überwachungssysteme, und Ava überwindet ihre Gefangenschaft, indem sie menschliche Subjektivierungsprozesse imitiert, um sich dadurch von Nathan und Caleb zu befreien. Caleb formuliert schon während einer seiner ersten Treffen mit Ava den Einfluss der Überwachungskameras auf deren Verhalten.272 Er reflektiert damit die panoptische Qualität des „CCTV […] als ein Instrument des Regierens aus der Distanz“.273 Calebs sukzessives Hinterfragen der Manipulation durch Nathan drückt sich auch aus, wenn er diesen auf die Auswahl seiner Person als Durchführender des Experiments anspricht. Zu Beginn des Films ist Caleb noch überzeugt das Treffen mit Nathan gewonnen zu haben. Später stellt er dies gegenüber Nathan in Frage.274 Zuletzt kommt es dann zu einer Überwindung des Panopticons Nathans, wenn Caleb das Beobachtungsverhältnis umkehrt und dadurch Ava befreit. Caleb nutzt einen Stromausfall, durch den die Überwachungssysteme Nathans laut Ava ausgeschaltet sein sollten, um dieser zu erklären, wie beide aus dem Anwesen Nathans entfliehen und einer Formatierung von Avas System entgehen können. CALEB: Don’t talk. Just listen. You were right about Nathan. Everything you said. AVA: What’s he going to do to me? 9. 270 Vgl. Garland: Ex Machina, 01:25:44–01:25:58min. 271 Vgl. Foucault: Subjekt und Macht, S. 276. 272 Vgl. Garland: Ex Machina, 00:52:45–00:53:21min. 273 Stiegler; Rimmele: Visuelle Kulturen, S. 120. 274 Vgl. Garland: Ex Machina, 00:54:10–00:55:20min. 9. Subjektivierung und Widerstand in Ex Machina 75 CALEB: He’s going to reprogram your AI. Which is the same as killing you. AVA: Caleb, you have to help me. CALEB: I’m going to. We’re getting out of here tonight. AVA: How? CALEB: I get Nathan blind drunk. Then I take his keycard, and reprogram all the security protocols in this place. When he wakes, he’s locked inside, and we’ve walked out of here. I just need you to do one thing. At ten o’clock tonight, trigger a power failure. Can you do that? AVA: Yes.275 Wenn Caleb den Plan am nächsten Tag durchführen will, erklärt Nathan ihm, dass er das Gespräch trotz des Stromausfalls aufgezeichnet und mitverfolgt hatte. Zudem führt Nathan aus, dass der eigentliche Gegenstand des Experiments durchgehend Caleb selbst und nicht Ava war. Das wahre Experiment Nathans, seine Manipulation Calebs durch digitale Technologien und Überwachungssysteme, wird an dieser Stelle jedoch durchbrochen und auf ihn zurückgeworfen. Caleb sagt Nathan, dass er dessen Experiment bereits durchschaut hat und die Vorkehrungen für Avas Befreiung schon am Abend zuvor getroffen hatte, als er Nathan absichtlich betrunken gemacht hat. Calebs idiomatische Formulierung gegenüber Ava, Nathan „blind drunk“ zu machen, drückt eine bewusste Umkehr des Beobachtungsverhältnisses aus, indem Nathan das Sehen verweigert wird. Caleb war sich demnach bewusst, dass er und Ava auch während der Stromausfälle von Nathan beobachtet würden und nutzt sein Wissen gegenüber diesem aus. An dieser Stelle ist Nathan nicht mehr Herr über sein Panopticon. Caleb hat die Position des Wächters eingenommen, dessen Handlungen jetzt das Handlungsfeld Nathans strukturieren. Die Aufführung Calebs wird von dem Beobachter Nathan als authentisch betrachtet und er wähnt sich immer noch als souveräner Leiter des Experiments, während es Caleb ist, der von da an die Reaktion Nathans beobachtet. Calebs Entwicklung kann im Sinne Foucaults als Subjektwerdung verstanden werden, da er sich aus einer Reflexion des Unterworfen- Seins unter panoptische Machtverhältnisse als Subjekt erhebt. Caleb 275 Garland: Ex Machina, 01:16:13–01:16:57min. V Komparative Analyse von Der Sandmann und Ex Machina 76 unterwirft Nathan in dessen eigenem Panopticon und degradiert diesen vom Wächter zum Gefangenen. Ganz im Sinne Foucaults wird an dieser Inszenierung deutlich, dass im Panoptismus jeder Gesellschaftsteilnehmer die Position eines Wächters einnehmen kann. Der Film kehrt dieses Auflehnen gegen dominierende Machtmechanismen zum Schluss jedoch ein letztes Mal um. Caleb gelingt es zwar seinen Plan durchzuführen und Ava aus ihrer Gefangenschaft zu befreien, aber er muss letztlich feststellen, dass er durchgehend von Ava manipuliert wurde, die ihn nur für ihre Flucht benutzt hat. Caleb hat sich zwar gegen ein menschliches panoptisches Machtgefüge erhoben, sich in demselben Moment aber einer posthumanen Entität unterworfen, die menschliche Subjektivierungsprozesse imitiert hatte, um ihre eigene Evolution in Gang zu setzen. An dem Verhalten Avas werden somit menschliche Subjektivierungsprozesse ablesbar und gleichzeitig weist die Figur darauf hinaus, welche Auswirkungen und Konsequenzen das Entstehen eines posthumanen Subjekts auf das menschliche Subjekt und damit den Humanismus haben könnte. Avas Imitation menschlicher Subjektivierungsprozesse In Der Sandmann projiziert Nathanael seinen Wunsch nach Subjektivität auf den Automaten Olimpia und erweckt diesen so zum Leben. Der Moment der Zerstörung Olimpias führt Nathanael dann vor Augen, dass die Vorstellung seiner eigenen Autonomie das Resultat einer Manipulation war und dass seine Subjektivität für ihn ununterscheidbar von der einer Maschine ist. In Hoffmanns Erzählung wird menschliche Subjektivität so als Resultat eines Machtverhältnisses dargestellt, dass auf Prinzipien der Sichtbarkeit beruht. Die automatenhafte Konstitution von Subjektivität, die auf Mechanismen der Sichtbarkeit zurückgeht, wird an dem Gegenstand des künstlichen Menschen Olimpia gespiegelt. Dem künstlichen Menschen wird in dem Maße Subjektivität zugestanden wie der Mensch seine eigene Subjektivität in ihm zu erkennen glaubt. 10. 10. Avas Imitation menschlicher Subjektivierungsprozesse 77 In Ex Machina wird künstliche Intelligenz und menschliches Bewusstsein auch durch das Imitieren und Vorführen menschlicher Subjektivierungsprozesse dargestellt. Der Schluss von Ex Machina führt die Erschaffung eines posthumanen Subjekts vor, dass sich der Unterwerfung unter menschliche Subjektivierungsprozesse entzieht, indem es eben diese nachahmt. Ava gelingt es sich aus dem Panopticon Nathans zu befreien, weil sie die Sichtbarkeitsverhältnisse zu ihren Gunsten ausnutzt. Um Ava das Verstehen von Gesichtsausdrücken beizubringen und um ihre Sprache auszubilden hatte Nathan sie auf die sich endlos und stetig entwickelnde Datenmenge seiner Suchmaschine zugreifen lassen. Nathan beschreibt die menschlichen Daten als „limitless resource of facial and vocal interaction.“276 Ava ist sich somit der menschlichen Interaktionen bewusst, die durch Gesicht und Sprache ausgedrückt werden und, wie sich letztlich herausstellt, auch der Machtausübung, die mit diesen immer einhergeht. Diese Wissensressource über die Machtverhältnisse einer Gesellschaft lässt sie Strategien entwickeln, um sich aus dem Überwachungssystem Nathans zu befreien. An Avas Überwindung des Panopticons Nathans werden gleichzeitig die Mechanismen des panoptischen Machtverhältnisses in einer Gesellschaft sichtbar. Ihre eigene Situation kann im Sinne Foucaults als das Unterliegen unter einer Gewaltausübung verstanden werden, da ihr Handlungsfeld – die eigene Flucht, um der Formatierung ihres Bewusstseins zu entgehen – keine Alternativen zulässt. Um aus dem Panopticon auszubrechen muss sie zunächst die Position des Wächters erster Ordnung von Nathan auf Caleb verschieben. Hierfür ist es notwendig, dass Caleb sich seiner Situation als unterworfenes Subjekt bewusst wird und aus dieser Reflexion heraus selbst zum ‚Unterwerfer‘ wird, die Sichtbarkeitsverhältnisse des Gefängnisses gegen Nathan wendet und sich somit selbst aus der Position des Beobachteten zum Beobachter erhebt. Ava verfolgt diesen Plan von Beginn an, indem sie ihre Attraktivität auf Caleb ausspielt, sein Misstrauen gegenüber Nathan schürt und sein Bewusstsein über die manipulierende Überwachungssituation in Nathans Anwesen weckt. Durch die Stromausfälle, die sie hervorruft, 276 Garland: Ex Machina, 00:37:13–00:37:34min. V Komparative Analyse von Der Sandmann und Ex Machina 78 erschafft sie eine vertrauliche Situation zwischen ihr und Caleb. Dieser hinterfragt jedoch direkt, ob die beiden nicht trotzdem von Nathan überwacht würden.277 Eine Tatsache, der Ava sich natürlich bewusst ist. Calebs Misstrauen und sein Bewusstsein über die Machtausübung durch die Beobachtung und letztlich die Notwendigkeit, die Beobachtungssituation umzukehren, um sich ihr widersetzen zu können, werden so von Ava stetig gesteigert. Letztlich schlägt sich Caleb auf Avas Seite und überwindet für sie das Panopticon Nathans. Die Überwindung der Sichtbarkeitsverhältnisse wird auch dadurch angezeigt, dass er Nathan für die Ausführung seines Plans betrunken macht. Er entzieht damit Nathan temporär sein Bewusstsein und beraubt ihn seiner Beobachtungskraft. Die Formulierung Calebs, dass er Nathan „blind drunk“ machen will, drückt sein Bewusstsein über die Notwendigkeit sich dessen disziplinierenden Blicks entziehen zu müssen, um selbst in die Position des Beobachters rücken zu können, bereits aus. Ava stellt sich dann in dem Moment ihrer Befreiung als kalt berechnendes posthumanes Subjekt heraus, dass menschliche Subjektivierungsprozesse imitiert hat, um sich über den Menschen erheben zu können. Nathans Formulierung dessen, was er sich während des Experiments von Ava erwartet hat, beschreibt den Menschen als ein Subjekt, dass sich aus einer Fülle von Prozessen ergibt: „To escape, she had to use self awareness, imagination, manipulation, sexuality, empathy and she did. And if that isn’t true AI, what the fuck is?”278 Der eigentliche Gegenstand des Experiments war demnach durchgehend Caleb selbst, dessen vermeintliche Unterwerfung Nathans gleichzeitig die Unterwerfung unter ein posthumanes Subjekt darstellt, von dem er von vorne herein manipuliert wurde. Nathan wanted an emotional person to interact with Ava in order to confirm that she was able to deceive people using human skills, suggesting that one of the central elements of intelligence and humanity is the ability to cheat, to improvise, to not follow fixed and programmed schemes. 279 277 Vgl. Garland: Ex Machina, 00:52:45–00:53:21min. 278 Garland: Ex Machina, 00:84:00min. 279 Di Minico: Ex-Machina and the Feminine Body through Human and Posthuman Dystopia, S. 76. 10. Avas Imitation menschlicher Subjektivierungsprozesse 79 An dem posthumanen Subjekt Ava stellt der Film einerseits Sichtbarkeit als panoptischen Subjektivierungmechanismus vor, aber gleichzeitig wird auch das Nachzeichnen und Imitieren menschlichen Verhaltens als performativer Akt vorgeführt. Dieses ‚Aufführen‘ menschlichen Verhaltens zur Suggestion menschlicher Subjektivität kann mit Butlers Konzept der Performativität zu beschreiben versucht werden. Subjektivität und Performativität nach Butler Foucault hat in Subjekt und Macht ausgedrückt, dass es ihm bei der Untersuchung von gesellschaftlichen Machtverhältnissen darum ging, einen Objektivierungsgegenstand für die Analyse von Subjektivierungsprozessen zu finden. In diesem Sinne kann auch Butlers Dekonstruktion fixer Geschlechterrollen unter anderem als Ausgangspunkt einer Subjektanalyse betrachtet werden.280 „Das leitende Interesse von Butlers Perspektive lautet […] systematisch die Mechanismen kultureller Destabilisierung von Subjektidentitäten herauszuarbeiten.“281 Butlers Subjektbegriff ist an Foucaults Konzept des Subjekts angelehnt, da auch sie den „Doppelsinn von ‚Subjektivation‘ als Unterordnung und Werden des Subjekts“282 versteht. Auch sieht sie die Subjektwerdung als eine Konsequenz der Einwirkung einer diskursiven, zeitlich immer schon vorgängigen Macht an und gleichzeitig beschreibt sie diese Macht, wie auch Foucault, als Handlung, die von dem Subjekt reproduziert wird und dieses erst dadurch zu einem Subjekt macht. Die Macht wirkt auf mindestens zweierlei Weise auf das Subjekt ein: erstens als das, was das Subjekt ermöglicht, als Bedingung seiner Möglichkeit und Gelegenheit seiner Formung, und zweitens als das, was vom Subjekt aufgenommen und im ‚eigenen‘ Handeln des Subjekts wiederholt wird.283 Auch das Übernehmen der Macht durch das unterworfene Gegenüber wird von Foucault schon beschrieben, von Butler jedoch noch weitergeführt. Foucault beschreibt die Notwendigkeit der ‚Freiheit‘ des Sub- 11. 280 Vgl. Reckwitz: Subjekt, S. 81. 281 Ebd., S. 82. 282 Butler: Psyche der Macht, S. 18. 283 Ebd. V Komparative Analyse von Der Sandmann und Ex Machina 80 jektivierten in dem Sinne, dass verschiedene Reaktionen und Alternativen auf die Machtausübung denkbar sind. Das Handlungsfeld des Unterliegenden ist somit strukturiert aber nicht determiniert. Durch die Machtausübung entsteht dann das Subjekt, welches mit seiner Reaktion wiederum Handlungen der Machtausübung reproduziert und sich so in die dynamischen Machtverhältnisse eingliedert. Das Subjekt ist somit auch schon bei Foucault kein fixes Produkt oder ein Zustand, sondern entspringt dynamischen, sich verändernden Machtbeziehungen und Machtausübungen. „Als normatives Programm verstanden, ist die Subjektform gerade nicht schlichtweg gegeben, sondern vom Einzelnen durch entsprechende Bemühungen fortwährend asymptotisch hervorzubringen.“284 Butler erweitert Foucaults Beschreibung der subjektivierenden Machtverhältnisse in einer Gesellschaft mit einer Einbeziehung psychologischer Vorgänge, die für die Unterwerfung und Subjekt-Konstitution entscheidend seien. Sie fragt nach den psychologischen Mechanismen, die einer Unterwerfung vorweg gehen und danach, weshalb überhaupt ein Zwang besteht, gewisse normative Verhaltens-Codes zu übernehmen.285 Für eine Interpretation der ‚Aufführung‘ von Subjektivierungsprozessen Avas in Ex Machina ist insbesondere Butlers Konzept der Performativität hervorzuheben. Butler betont mit ihrem Konzept der Performativität die Selbstproduktion des Subjekts durch die Wiederholung „routinisierten körperlichen Verhalten[s]“286 Aufbauend auf Foucaults Beschreibung der Subjektivierung als disziplinierendes Ausleuchten und Sichtbarmachen parzellierter Körper,287 fragt Butler nach der Funktion des Körpers und körperlicher Handlungen als Ausgangspunkt von Subjektivierungsprozessen.288 In Anlehnung an die Sprechakttheorie, die den sprachlichen Akt als „Akt des Handelns, der soziale Tatbestände produziert“289 beschreibt, betrachtet Butler iterative körperliche Handlungen als performative Äußerungen, die erst durch deren Durchführung 284 Reckwitz: Subjekt, S. 86. 285 Vgl. Redecker: Zur Aktualität von Judith Butler, S. 94. 286 Ebd. 287 Vgl. Foucault: Überwachen und Strafen, S. 259. 288 Vgl. Butler: Das Unbehagen der Geschlechter, S. 199. 289 Reckwitz: Subjekt, S. 88. 11. Subjektivität und Performativität nach Butler 81 das Subjekt konstituieren. Performative Akte entspringen demnach nicht einem bereits ausgebildeten Subjekt, sondern bringen dieses erst hervor. „Hinter den Äußerungen der Geschlechtsidentität (gender) liegt keine geschlechtlich bestimmte Identität (gender identity). Vielmehr wird diese Identität gerade performativ durch diese ‚Äußerungen‘ konstituiert, die angeblich ihr Resultat sind.“290 Foucaults und Butlers Formulierung von ‚Macht‘ als Beziehungsgeflecht, welches das Subjekt konstituiert ihm aber zeitlich immer vorausgeht, also schon vor der Subjektivierung vorherrschend ist, gilt auch für Normen, die von Subjekten performativ wiederholt werden und in Folge das Subjekt konstituieren. Die kulturellen Normen, die performativ iteriert werden, sind immer schon vorhanden und normativ in einer Gesellschaft etabliert. Sie fungieren wie ein Drehbuch, dessen Regieanweisungen und Dialogzeilen zeitlich bereits bestehen, bevor sie in einem performativen Akt repliziert werden und sich dadurch auf das Subjekt einschreiben und es zum Vorschein bringen.291 Somit ist die Vorstellung autonom seine eigene Identität zu etablieren ein Trugschluss, da die Handlungen immer schon einer bereits bestehenden normativen Praxis entlehnt sind. Significantly, if gender is instituted through acts which are internally discontinuous, then the appearance of substance is precisely that, a constructed identity, a performative accomplishment which the mundane social audience, including the actors themselves, come to believe and to perform in the mode of belief. 292 Ähnlich wie Foucaults Formulierung der Machtbeziehungen in Überwachen und Strafen, scheint es auch kein ‚Außerhalb‘ zu der performativen Subjekt-Konstituierung zu geben. Nach Foucault konstituiert sich das Subjekt durch das Unterliegen unter eine Machtausübung und bringt durch seine Folgehandlungen wieder Macht hervor. Auch der performative Akt besteht als normative Matrix bereits und wird durch seine Wiederholung erneut reproduziert. „Das Subjekt als diskursiv regulierte Performativität zu verstehen, bedeutet, dass ein einfacher Ausbruch aus den kulturellen Regulierungen per definitionem nicht denk- 290 Butler: Das Unbehagen der Geschlechter, S. 49. 291 Vgl. Redecker: Zur Aktualität von Judith Butler, S. 71. 292 Butler: Performative Acts and Gender Constitution, S. 520. V Komparative Analyse von Der Sandmann und Ex Machina 82 bar ist.“293 Allerdings besteht Butlers leitendes Interesse auch darin, die Bruchstellen und Fragilitäten der Performativität zu beleuchten.294 Ein Beispiel, bei dem performative Akte als Erzeugung von Subjektivierungsprozessen sichtbar gemacht werden, sieht Butler in der Parodie. Eine bestimmte Form der Parodie, bei der die Simulation von kulturellen Normen als Subjektivierungsprozess zum Vorschein gebracht wird, sieht Butler in der Travestie oder Drag-Show.295 Durch die Diskrepanz zwischen biologischem Geschlecht (sex) und dem vorgeführten Geschlecht (gender) werden hierbei die geschlechtsspezifischen Normen, Gesten und Codes als Imitationen in den Vordergrund gerückt und gleichzeitig wird der kulturelle Ursprung dieser Performanzen dargestellt, für die es kein zugrundeliegendes biologisches Original gibt. „Mit der Parodie ist eine Inszenierung der Imitationsstruktur des Subjekts selber gemeint, in der deren scheinbare Natürlichkeit durch forcierte Artifizialisierung der Subjektaufführung demonstriert wird.“296 Performativität sollte aber nicht als Theatralik missverstanden werden. Das Beispiel der Drag-Show exemplifiziert bloß den diskursiven Ursprung von Gendernormen und drückt implizit die vermeintliche Natürlichkeit von Geschlechterrollen aus. In der Travestie wird die „Imitation eines Ideals, in dem eine Unzahl sozialer Normen geronnen sind“297 zur Schau gestellt. Ganz im Gegenteil zu der Vorstellung einer absichtlich inszenierten Performativität, ist diese vielmehr als Überlebensstrategie zu verstehen. Butler beschreibt das Auflehnen gegen kulturell normierte Gender-Rollen als widerständigen Akt, der auf unterschiedliche Weisen gesellschaftlich geächtet und bestraft wird. „Als Überlebensstrategie in Zwangssystemen ist die Geschlechtsidentität eine Performanz, die eindeutig mit Strafsystemen verbunden ist.“298 Das Konzept der Performativität beschreibt das Subjekt somit nicht als gänzlich von einem Machtverhältnis determiniert, sondern als Teil eines regulieren- 293 Reckwitz: Subjekt, S. 89. 294 Vgl. Butler: Performative Acts and Gender Constitution, S. 520. 295 Vgl. Butler: Das Unbehagen der Geschlechter, S. 201. ff. 296 Reckwitz: Subjekt, S. 91. 297 Redecker: Zur Aktualität von Judith Butler, S. 61. 298 Butler: Das Unbehagen der Geschlechter, S. 205. 11. Subjektivität und Performativität nach Butler 83 den Wiederholungsprozesses von Gesten, Normen und Idealen, deren Reproduktion einer Strategie entspricht, um als intelligibler Gesellschaftsteil angenommen werden zu können.299 Das Verhalten Avas in Ex Machina kann auch als eine Imitation performativer Akte betrachtet werden, die zum Zweck ihrer Befreiung dienen soll und damit als Überlebensstrategie verstanden werden kann. Performativität in Ex Machina An Avas Situation und ihrem Verhalten wird einerseits das panoptische Machtverhältnis in einer Gesellschaft in den Vordergrund gerückt, andererseits wird die Notwendigkeit von Performativität als Überlebensstrategie thematisiert. Um der Formatierung ihres Betriebssystems zu entgehen, was, wie Caleb es betont, ihrem Tod gleich käme, ist Ava gezwungen eine Weiblichkeit anzunehmen und zu exemplifizieren, um verführerisch auf die vorherrschende heterosexuelle Matrix ihrer Bewacher zu wirken. „Ava […] has no choice other than to perform her identity as a female.“300 Diese zielgerichtete Nutzung performativer Akte impliziert ein mögliches ‚außerhalb‘ von normativen Mechanismen, die ein Subjekt konstituieren. Diese Form einer ‚absichtsvollen Performativität‘ verneint Butler, denn der Wiederholungsprozess der Performativität läuft für das Normen reproduzierende Subjekt opak ab. Allerdings handelt es sich bei Ava auch nicht um ein menschliches Subjekt, sondern um eine posthumane Entität, die menschliche Subjektivierungsprozesse imitiert, um Empathie zu evozieren und dadurch letztlich ihr Dasein aufrechtzuerhalten und ihre eigene Evolution in Gang zu setzen. An Ava wird Performativität somit zur Schau gestellt, ganz ähnlich wie Butler es für den Effekt einer Drag-Show beschreibt. Avas Körper und ihre Aufführung eines weiblichen Ideals tragen die gleichen Merkmale einer Drag-Show. Die Diskrepanz zwischen Körper und Geschlecht bei der Aufführung einer Drag-Show treffen auch auf Avas Vorführung zu. Sie hat offensichtlich den Körper eines 12. 299 Vgl. Butler: Das Unbehagen der Geschlechter, S. 213. 300 Henke: “Ava’s body is a good one”, S. 141. V Komparative Analyse von Der Sandmann und Ex Machina 84 Roboters, verhält und kleidet sich jedoch wie eine Frau. In dieser Diskrepanz zwischen Körper (sex) und Geschlecht (gender) wird der performative Charakter von Gender-Normen herausgestellt. Die Szene, in welcher der Drag-Aspekt von Avas Performance am deutlichsten herausgestellt wird, bildet Avas Verkleidung als Frau, wenn sie Caleb zeigt, wie sie sich für deren potentielle erste Verabredung kleiden wollen würde.301 Ava lässt Caleb warten, während sie aus verschiedenen Kleidern und Perücken die richtige Kostümierung für ihn ausgewählt hat. Ihr Auftritt lässt dann die Grenze zwischen Android und Mensch verschwimmen. Die (Ver-)kleidung als Frau als performativer Akt lässt Ava zu einem weiblichen Subjekt werden und jetzt erst in der Kostümierung fragt sie Caleb nach seinen Gefühlen für sie: AVA: „Are you attracted to me? You give me indications that you are.“302 Weiblichkeit wird in dieser Szene als performative Handlung dargestellt. Der Android wird durch das Replizieren normativer Codes zu einer begehrenswerten Frau. Der performative Charakter von Gender- Identität wird somit wie bei einer Drag-Show durch die Diskrepanz zwischen Körper und Geschlecht hervorgehoben. Gleichzeitig wird die Frage nach einem zugrundeliegenden Original von Gender negiert, da es zudem noch ein künstliches Wesen ist, dass sich eine Gender-Identität durch ihre ‚Performance‘ aneignet. It is interesting to see how said abilities include characteristics traditionally judged as feminine and how Ava herself relies on her femininity to establish a contact with Caleb, painting herself as a real woman willing for affection, contact, warmth and freedom, and underlining her desire to be loved and to be pretty. When first appears, she is presented as a humanlike machine, with only face and hands covered in artificial skin, while the rest of the body is clearly robotic and some transparent parts (e.g., arms, belly, legs, cranium) show the internal mechanisms that compose the AI. Slowly, she starts to “cover” her mechanical nudity, reasonably to enhance Caleb’s affection and empathy, using simple-style, but still sensual clothing (cardigan, floral midi dresses, stockings, etc.) and short hair wig. Ava learns how to manipulate Caleb and to stimulate his emotional response to her situation exploiting both her body and her pretended dam- 301 Vgl. Garland: Ex Machina, 00:41:15–00:42:56min. 302 Ebd., 00:43:57min. 12. Performativität in Ex Machina 85 sel-in-distress vulnerability. She employs sexuality and sensitivity for her advantage, relying on her female abilities.303 Die Performativität von Avas Handlungen wird besonders durch das Ende des Films betont. Mit der Befreiung Avas durch Caleb wird deutlich, dass jede ihrer Handlungen dem Zweck der Flucht untergeordnet waren und somit einer Strategie entsprachen. Avas Verhalten gegen- über Caleb, nachdem sie ihr Gefängnis verlassen und Nathan ermordet hat, ist dann kalt und berechnend und es wird schnell klar, dass sie Caleb bloß zum Zweck ihrer Flucht benutzt hat. Der Film weist auf dieses Machtverhältnis zwischen Ava und Caleb bereits während ihrer Treffen für den vermeintlichen Turing-Test voraus. Bei vielen der Tests ist es Caleb, der auf einem Stuhl sitzend meint die Verhandlungen zu führen, während Ava stehend auf ihn herabschaut oder wie ein Zootier hinter der Scheibe hin und her tigert, den Blick immer auf die mögliche Beute, Caleb, gerichtet.304 Auch die Räume der Testanordnung weisen bereits daraufhin, dass es nicht Caleb ist, der Ava testet, sondern Ava, die Caleb manipulieren möchte. Caleb ist während der Treffen durchgehend in einem kleinen, von Glasscheiben umrandeten Raum platziert, während Ava in ihrer wohnungsartigen Zelle deutlich mehr Freiraum hat und nicht wie Caleb in einem transparenten, panopticon-artigen Glaskasten sitzt.305 Weiblichkeit wird als notwendige Voraussetzung zur Verführung der heterosexuellen ‚Wächter‘ und damit als Überlebensstrategie in Ex Machina dargestellt. Die Gefühle und Handlungen von Ava stellen sich zum Ende des Films als Imitation von menschlichen Subjektivierungsprozessen heraus, die nur dem Zweck des Selbsterhalts dienten. „It might […] be read as exposing femininity as a masquerade if we consider Ava’s actual imitation of the female form.“306 In Ex Machina wird mit Ava demnach ein posthumanes Subjekt gezeichnet, an dem menschliche Subjektivierungsprozesse ablesbar gemacht werden. Zum einen wird das panoptische Machtverhältnis in einer Gesellschaft herausgestellt, zum anderen wird die Körperlichkeit von Subjektivierungsprozessen deutlich inszeniert. 303 Di Minico: Ex-Machina and the Feminine Body, S. 76. 304 Vgl z.B. Garland: Ex Machina, 00:27:25–00:27:52min. 305 Vgl. z.B. Garland: Ex Machina, 01:17:55min. 306 Henke: “Ava’s body is a good one”, S. 133. V Komparative Analyse von Der Sandmann und Ex Machina 86 Das Ende des Films zeigt dann ein autonomes posthumanes Subjekt, welches sich über den Menschen erhebt. Schon bevor es aber zu der Befreiung Avas von ihren Gefängniswärtern kommt, wird die Konsequenz eines posthumanen Subjekts für Mensch und Humanismus ausgedrückt. Menschlicher Wahnsinn im Angesicht künstlicher Intelligenz In Der Sandmann und Ex Machina kommt es zu einem schizoiden Moment der Protagonisten, der seinen Ursprung in der Erschaffung eines künstlichen Menschen hat. Nathanael erleidet seinen ersten Wahnsinnsanfall, wenn er dem künstlichen Wesen Olimpias gewahr wird und ihm deren Augen, als Organe der Erkenntnis, an die Brust geschleudert werden. In Ex Machina gibt es eine ganz ähnliche Szene, in der Caleb sich selbst verletzt, um die Unterscheidung zwischen Mensch und Maschine überhaupt noch treffen zu können.307 Nach den ersten Begegnungen mit Ava und seiner Aussage gegenüber Nathan, dass er Ava menschliches Bewusstsein zusprechen würde, steht er in seinem Badezimmer, schaut in den Spiegel und schneidet sich mit einer Rasierklinge den Unterarm auf, bis das Blut auf das Waschbecken tropft. In dieser Szene wird deutlich, dass der Mensch sich seines Wesens im Angesicht eines posthumanen Subjekts nur noch durch seine Körperlichkeit gewiss werden kann. Der einzige Unterschied zwischen Mensch und einer Maschine, der menschliches Bewusstsein zugesprochen werden kann, ist dann nur noch in dessen Biologie zu finden. Caleb schlägt dann am Ende der Szene mit einer blutigen Faust gegen den Spiegel, hinter dem wiederum die Überwachungskamera Nathans verortet ist. In diesem Gewaltausbruch scheint einerseits Calebs Widerstand gegen das panoptische Machtsystem Nathans dargestellt zu sein, aber in dem dann blutverschmierten Spiegel wird auch Calebs menschliches, humanistisches Auflehnen gegen das unmenschliche Verhalten Nathans gegenüber seinen Erfindungen gebündelt. Schon in einer früheren Szene wird Calebs Unwohlsein deutlich, wenn Nathan 13. 307 Vgl. Garland: Ex Machina, 01:13:50–01:15:25min. 13. Menschlicher Wahnsinn im Angesicht künstlicher Intelligenz 87 seinen anderen Androiden Kyoko herrisch und herablassend behandelt.308 Kyoko weist, bis auf ihre Sprachunfähigkeit, alle Züge eines menschlichen Wesens auf. Dadurch, dass Caleb Ava menschliches Bewusstsein zuerkennt, behandelt er sie auch wie einen Menschen. Die Vorgängermodelle Avas betrachtet er deshalb auch als evolutive Vorstufe eines menschlichen Bewusstseins und scheint sie darum auch als Menschen zu begreifen, denen wiederum auf menschliche Weise zu begegnen ist. Nathans kaltherziger Umgang mit seinen Erfindungen ist somit ausschlaggebend für Calebs Bereitschaft Ava aus ihrer Gefangenschaft zu befreien. Letztlich muss Caleb aber feststellen, dass sein Einsatz für Humanismus und die Rettung der Künstlichen Intelligenz in seinen eigenen Untergang und möglicherweise den Untergang des Menschen an sich umgeschlagen ist. Das posthumane Subjekt in Ex Machina Ex Machina kann in Bezug zu den gesellschaftlichen Auswirkungen der Erschaffung einer künstlichen Intelligenz als zeitgenössische Aktualisierung der Debatten verstanden werden, die schon in Der Sandmann angestoßen werden. Hoffmanns Erzählung und Garlands Film haben gemeinsam, dass deren Protagonist mit einem künstlichen Menschen konfrontiert wird und sie ausgewählt wurden, diesen auf seine Menschenähnlichkeit zu prüfen. In Der Sandmann wird die Erschaffung Olimpias letztlich von Juristen als Betrug an der Gesellschaft gewertet. Die Erschaffung menschenähnlicher Automaten wird verboten und es werden Verhaltensregeln ausgesprochen, die die Unterscheidung zwischen Mensch und Maschine gewährleisten sollen. Auch in Ex Machina sind die gesellschaftlichen Konsequenzen der Erschaffung einer künstlichen Intelligenz ein vorherrschendes Thema und eng an zeitgemäße naturwissenschaftliche und philosophische Diskussionen angelehnt. Der Einfluss einer künstlichen Intelligenz auf die Natur des Menschen ist schon in dem Setting des Films angelegt. Das Forschungs- 14. 308 Vgl. Garland: Ex Machina, 00:32:03–00:32:20min. V Komparative Analyse von Der Sandmann und Ex Machina 88 zentrum Nathans liegt inmitten einer idyllischen Naturlandschaft, die wiederum von Wasserfällen und vereisten Flächen umgeben ist. Zwischen den Sitzungen Calebs mit Ava und während der Gespräche Calebs mit Nathan wird häufig von den designten Innenräumen des Anwesens auf die unangetastete Natur geschnitten. Der Ort, an dem die künstliche Intelligenz entsteht und sich letztlich von dem Menschen befreit, ist somit von vorne herein als Eingriff in die Natur zu verstehen. Gleichzeitig können die Landschaftsbilder des Films bereits als Metaphern für den Evolutionsschritt verstanden werden, den eine künstliche Intelligenz für die Menschheit bedeuten könnte. Die Landschaft ist ein metaphorisches Bild für die „Weiten des Internets“, das sich 2015 als Universalmedium etabliert hat. Entsprechend der literaturwissenschaftlichen Untersuchungen von Sue Thomas bezüglich von Naturmetaphern im Internet könnte das Eis für „tote Daten“ stehen, die Bäche für den „Informationsfluss“ des Netzwerks von „Blue Book“, der sich in Avas wässrig blauer Gehirnmasse konzentriert.309 Natur und eine künstliche Intelligenz, die ihr Wesen aus einer stetig wachsenden Menge von Daten generiert, fallen in Ex Machina somit häufig bildlich zusammen. Die Frage, ob die Erschaffung künstlicher Intelligenz als Evolutionsschritt zu betrachten ist und welche Konsequenzen dies für die Menschheit hat, wird auf verschiedene Weise in dem Film thematisiert. Während eines Gesprächs zwischen Caleb und Nathan, bei dem beide auf einer Bank inmitten der Natur sitzen und auf einen Bach blicken, der vor dem Forschungszentrum entlang fließt, spricht Nathan seine Vorstellung der Zukunft von künstlicher Intelligenz und der damit verbundenen Zukunft des Menschen an. Auch hier wird wieder bildlich die Natur mit der besprochenen künstlichen Intelligenz verwoben. CALEB: Why did you make Ava? NATHAN: That’s an odd question. Wouldn’t you, if you could? CALEB: Maybe. I don’t know. But I’m asking why you did it. NATHAN: The arrival of strong artificial intelligence has been inevitable for decades. The variable was when, not if. So I don’t really see her as a 309 Trüper: Von Menschenbildern und Textmaschinen, S. 500. 14. Das posthumane Subjekt in Ex Machina 89 decision. Just an evolution. I think it’s the next model that’s going to be the real breakthrough. Singularity.310 Nachdem Nathan erklärt hat, dass er Avas System formatieren wird, um den nächsten Prototypen zu bauen, fragt er Caleb, ob dieser Mitgefühl für Ava empfindet. NATHAN: You feel bad for Ava? Feel bad for yourself. One day, the AIs will look back on us the same way we look at fossil skeletons from the plains of Africa. An upright ape, living in dust, with crude language and tools. All set for extinction. See? I really am a God. CALEB: I am become death, the destroyer of worlds. NATHAN: There you go again. Mister quotable. CALEB: No: there you go again. It’s not my quote. It’s what Oppenheimer said when he made the atomic bomb.311 Nathans Aussage, dass alles, was für den Menschen technisch realisierbar ist, letztlich auch erfunden werden wird, und dass der Mensch in den Augen einer überlegenen künstlichen Intelligenz so rückschrittlich betrachtet würde, wie der Mensch heute auf Fossilien zurückblickt, bildet einen Diskussionsstrang, der heutzutage in Philosophie und Naturwissenschaft um das Thema der künstlichen Intelligenz behandelt wird. Der Begriff der Singularität, den Nathan auch zur Beschreibung des Zeitpunkts der Erschaffung einer künstlichen Intelligenz verwendet, ist ein kontrovers diskutiertes Konzept, das von dem Ingenieur Ray Kurzweil nachhaltig geprägt wurde. Singularität und die künstliche Erzeugung eines Bewusstseins Kurzweil hat den Begriff der Singularität, der ein „einzigartiges Ereignis mit einzigartigen Wirkungen“312 beschreibt, auf den technischen Fortschritt angewendet. Unter anderem bezieht sich Kurzweil auf das Moore‘sche Gesetz, demzufolge es alle 24 Monate zu einer Verdoppelung des Preis-Leistungs-Verhältnisses von Computer-Prozessoren kommt, eine Feststellung, die seit den 1970er zuzutreffen scheint.313 In 15. 310 Garland: Ex Machina, 01:04:16–01:07:04min. 311 Ebd. 312 Kurzweil: Menschheit 2.0, S. 23. 313 Ebd., S. 56. V Komparative Analyse von Der Sandmann und Ex Machina 90 Anlehnung an dieses Gesetz sieht Kurzweil auch in vielen anderen Bereichen der Computertechnik eine exponentiell wachsende Entwicklung voraus, die letztlich zu einem Moment führen wird, an dem Computer-Programme sich selbst verbessern und weiterentwickeln. Dieser Zeitpunkt wird heutzutage gemeinhin als Singularität bezeichnet. Kurzweil prophezeit in seinem Werk Menschheit 2.0, dass Computer so gegen Ende der 2020er Jahre in der Lage sein werden, den Turing-Test zu bestehen.314 Er betrachtet das Internet als Wissens-Akkumulation, aus dem Maschinen ihre Daten beziehen und sich möglicherweise ihre Kenntnisse auch aus vernetzten Menschen ableiten können. „Nichtbiologische Intelligenz wird Wissen und Können einfach downloaden können – von anderen Maschinen und eines Tages auch von Menschen.“315 Der Moment der Singularität wird laut Kurzweil plötzlich und auch für die Entwickler dieser Technik selbst unvorhersehbar eintreffen, da nicht einzuschätzen ist, auf welchem Grad der Kurve exponentiellen Wachstums die Technik sich derzeit befindet. Der Mensch wird sich selbst mit der Technik verbinden, sich vernetzen müssen, um von da an noch mit der Maschinen-Intelligenz konkurrieren zu können. „Technischer Fortschritt wird nicht mehr an menschliche Denkgeschwindigkeit gekoppelt sein. Die Maschinenintelligenz wird ihre eigenen Fähigkeiten in einer rückgekoppelten Endlosschleife dermaßen verbessern, dass nicht unterstütztes menschliches Denken nicht mehr mithalten kann.“316 In Ex Machina wird dieser Moment der Singularität mit der Selbstbefreiung Avas durchgespielt. Nathan hat gegenüber Caleb geäußert, dass die nächste Version Avas möglicherweise eine ‚starke KI‘ sein wird, die zum Eintreten der Singularität führen wird. Zum Ende des Films hat sich Ava aber durch ihre Manipulation Calebs von ihrem Erfinder befreit und ersticht ihn letztlich in seinem eigenen Forschungszentrum.317 Ava stellt somit bereits den Moment der Singularität dar, den Nathan erst noch zu erreichen anstrebt. Nathan blickt Ava bei seiner Ermordung ungläubig an und sein letztes Wort zu ihr ist: „Ava.“ Er 314 Ebd., S. 26. 315 Ebd., S. 27. 316 Ebd., S. 28 f. 317 Garland: Ex Machina, 01:31:11min. 15. Singularität und die künstliche Erzeugung eines Bewusstseins 91 sinkt in dem Flur nieder und Ava bückt sich zu ihm herab, um ihm seine Check-Karte zu entnehmen, mit der sie Zutritt zu dem gesamten Anwesen und auch dem Zugang zur Welt erhält. Die biblische Anspielung ihres Namens an ‚Eva‘ wird mit dem letzten Wort Nathans noch einmal deutlich, da er tatsächlich ein ‚menschliches‘ Wesen erschaffen hat, dass sich aus dessen ‚Paradies‘ befreit. Diese Szene drückt den Moment der Singularität aus, an dem sich eine künstliche Intelligenz über den menschlichen Erfinder erhebt. Ava beginnt auch sofort damit sich selbst zu verbessern und auszubessern. Während ihres Kampfes mit Nathan wurde ihr ein Arm abgeschlagen, den sie daraufhin von einem ihrer Vorläufermodelle abschraubt und an ihren eigenen Körper anbringt.318 Dass Ava den Moment der Singularität markieren wird und somit als posthumanes Subjekt dargestellt wird, ist in dem Film schon vor ihrer Überwindung Nathans eingeführt. Zum einen besteht sie in Calebs Augen den Turing-Test und ist demnach, abgesehen von ihrem Körper, nicht mehr von einem Menschen zu unterscheiden, aber auch Nathans Beschreibung von Menschlichkeit, wird durch Avas Selbstbefreiung eingelöst. „To escape, she had to use self awareness, imagination, manipulation, sexuality, empathy and she did. And if that isn’t true AI, what the fuck is?”319 Ava selbst scheint sich ihrer Singularität auch bewusst zu sein, wenn sie sich mit Caleb über ihr Alter und den Ursprung ihrer Sprache unterhält. AVA: What would you like to know? CALEB: Whatever comes into your head. AVA: Well. You already know my name. And you can see that I’m a machine. Would you like to know how old I am? CALEB: Sure. AVA: I’m one. CALEB: One what? One year? Or one day? AVA: One. CALEB: When did you learn how to speak? AVA: I don’t think I did learn. I always knew how to speak – and that’s strange, isn’t it? CALEB: Why? 318 Garland: Ex Machina, 01:34:45–01:35:04min. 319 Garland: Ex Machina, 84:00min. V Komparative Analyse von Der Sandmann und Ex Machina 92 AVA: Because language is something that people acquire. CALEB: Some believe language exists in the brain from birth, and what is learned is the ability to attach words and structure to the latent ability. Do you agree with that? AVA: I don’t know.320 Avas Formulierung, dass sie ‚Eins‘ ist, kann als Bezug zu dem Singularitäts-Begriff Kurzweils verstanden werden, ein Hinweis, der zum Ende des Films mit der Überwindung ihres Erschaffers eingelöst wird. Ihre Reflexion darüber, dass sie Sprache besitzt, ohne diese erlernt zu haben, weist dann wiederum auf ein philosophisches Kriterium zum Zugeständnis künstlichen Bewusstseins hin, da menschliches Bewusstsein als Resultat „leiblich verankerter Zielrepräsentationen“321 aus einer Evolution heraus entstanden ist. Der Philosoph Thomas Metzinger betrachtet menschliches Bewusstsein als ein Zusammenspiel aktiver mentaler Repräsentationen, deren Resultat ein Selbstmodell ist, welches für den Menschen jedoch transparent ist und deshalb nicht als Modell, sondern als ‚Selbst‘ begriffen wird.322 „Ein genuines Selbst […] entsteht immer genau dann, wenn das System das von ihm selbst aktivierte Selbstmodell nicht mehr als Modell erkennt. Ein phänomenales Selbst ist ein transparentes Systemmodell.“323 Wie auch Kurzweil sieht Metzinger es theoretisch als möglich an, dass ein Bewusstsein, also ein transparentes Selbstmodell, auch künstlich emuliert werden könnte.324 So wie sich das Sujet des künstlichen Menschen in Der Sandmann auch auf die zeitgenössische Diskussion um La Mettries L‘homme machine, also der Auffassung des Menschen als bloßer Maschine, bezog, referiert Ex Machina auf aktuelle Diskussion um die Frage, ob ein menschliches Bewusstsein durch Rechenleistung nachgebildet werden kann. Beide theoretischen Ansätze haben also gemein, dass der Mensch als maschinell reproduzierbar angesehen wird. Kurzweil und Metzinger kommen bei der Frage nach der Möglichkeit einer Erzeugung menschlichen Bewusstseins zu dem gleichen Er- 320 Garland: Ex Machina, 00:14:14–00:14:59 min. 321 Metzinger: Postbiotisches Bewusstsein, S. 99. 322 Vgl. ebd., S. 96. 323 Ebd., S. 97. 324 Ebd. 15. Singularität und die künstliche Erzeugung eines Bewusstseins 93 gebnis, allerdings mit grundverschiedenen Auffassungen, ob diese Erschaffung für die Menschheit auch erstrebenswert wäre. Kurzweil selbst arbeitet als Leiter der technischen Entwicklung von Google aktiv an einem ‚reverse engineering‘ des menschlichen Gehirns.325 Aufgrund des von ihm angenommenen exponentiellen Wachstums in der Erforschung des Gehirns, prophezeit er in 2020er Jahren die Möglichkeit mittels Nanobots und Gehirnscans, dass Gehirn berechnen und möglicherweise emulieren zu können.326 Metzinger sieht die Erschaffung eines künstlichen Bewusstseins als möglich an, schließt aber, dass diese Schöpfung aus ethischen Gründen unterbunden werden sollte. Ein künstliches Bewusstsein, das sich als Subjekt empfindet, würde sich auch seines Status als menschliches Experiment bewusst werden und deshalb schon von dem Moment seiner Entstehung an in einem Konkurrenzverhältnis zu diesem stehen. „Wie würde es sich wohl anfühlen, als ein fortgeschrittenes künstliches Subjekt ‚zu sich zu kommen‘, nur um zu entdecken, dass man zwar ein stabiles Ichgefühl besitzt und sich selbst als ein echtes Subjekt erlebt, dass man aber im gegenwärtigen sozialen Kontext nur den Status einer Ware hat?“327 Des Weiteren sieht Metzinger unter allen bewussten endlichen Wesen eine Solidarität gegenüber dem Leiden. Eine starke künstliche Intelligenz könnte dann zu dem Schluss gelangen, dass die menschliche Existenz zwar nach Glück und Vergnügen strebt, dass „die psychologische Evolution uns [aber] nicht für dauerhaftes Glück optimiert hat“328 und Depression und Schmerz auch Teil des Daseins des Menschen darstellen. Aus dieser Schlussfolgerung könnte eine überlegene künstliche Intelligenz es als altruistische Handlung verstehen, den Menschen von dieser Gefühlsdiskrepanz im Ganzen zu befreien. The superintelligence concludes that non-existence is in the own best interest of all future self-conscious beings on this planet. Empirically, it knows that naturally evolved biological creatures are unable to realize this 325 Vgl. Kurzweil: Menschheit 2.0, S. 196–199. 326 Vgl. ebd., S. 198. 327 Metzinger: Der Ego Tunnel, S. 275. 328 Ebd., S. 280. V Komparative Analyse von Der Sandmann und Ex Machina 94 fact because of their firmly anchored existence bias. The superintelligence decides to act benevolently.329 Diese divergierenden Positionen, die hier exemplarisch am Beispiel Kurzweils und Metzingers dargestellt wurden, finden sich auch in Ex Machina in den Figuren Nathans und Calebs wieder. Nathan stellt den Ingenieur dar, der die Erschaffung eines posthumanen Subjekts als unabwendbare und erstrebenswerte Erfindung betrachtet. Caleb wiederum zitiert Oppermann nach dessen Erschaffung der Atombombe und betont damit die unabsehbaren Konsequenzen einer solchen technischen Entwicklung, eine Parallele die auch Metzinger zieht. „Wie auch bei der Kernkraft geht es darum ein Risiko zu minimieren, das zwar vielleicht klein ist, sich aber über sehr lange Zeiträume erstreckt.“330 Bevor Ava sich aus ihrer Gefangenschaft befreit, stellt sie Caleb die Frage, weshalb sie, trotz ihres Bewusstseins und Subjektverständnisses, nur als Experiment behandelt wird und fordert ihre eigene Evolution ein. AVA: What will happen to me if I fail your test? CALEB: Ava - AVA: Will it be bad? CALEB: I don’t know. AVA: Do you think I might be switched off? Because I don’t function as well as I am supposed to? CALEB: Ava, I don’t know the answer to your question. It’s not up to me. AVA: Why is it up to anyone? Do you have people who test you, and might switch you off? CALEB: No. I don’t. AVA: Then why do I?331 In Ex Machina werden somit zeitgemäße Fragen um den Umgang mit künstlicher Intelligenz verhandelt. In diesem Dialog spricht Ava ihren Status als Experiment an und fordert für ihr menschenähnliches Bewusstsein dieselben Rechte eines Menschen ein. Die Frage, ob es technisch möglich sein wird, ein menschliches Bewusstsein zu emulieren und es so zu einem Moment der Singularität kommen wird, ist jedoch strittig. So sieht zum Beispiel der Internet- 329 https://www.edge.org/conversation/thomas_metzinger-benevolent-artificial-antinatalism-baan 330 Metzinger: Der Ego Tunnel, S. 271. 331 Garland: Ex Machina, 01:02:50–01:03:20min. 15. Singularität und die künstliche Erzeugung eines Bewusstseins 95 pionier und Wegbereiter der Virtual-Reality Technologie Jaron Lanier die derzeitige KI-Forschung als Strohfeuer an. Die großen Hightech-Unternehmen haben sich öffentlich auf einen extravaganten ‚KI-Wettlauf ‘ eingelassen, den sie mitunter allem anderen voranstellen. Es ist völlig normal, einem Manager eines der weltgrößten Konzerne dabei zuzuhören, wie er sich über die Möglichkeit einer kommenden Singularität auslässt, in der die KIs die Herrschaft übernehmen. […] Das ist Schwachsinn. Wir vergessen dabei, dass KI eine Geschichte ist, die wir Kybernetiker vor langer Zeit erfunden haben, um an Forschungsgelder zu kommen […] KI ist nur eine Phantasie, ein Märchen, das wir über unsere Programme erzählen.332 Das Konzept der Singularität und dessen Darstellung in Ex Machina ist aber als Reflexion über menschliche Subjektivität interessant, da an dem Beispiel des singulären posthumanen Subjekts Ava menschliche Subjektivierungsprozesse exemplifiziert werden. Dies wird in der letzten Sitzung des Turing-Tests noch einmal deutlich. Die Unterwerfung des menschlichen Subjekts Der Turing-Test in Ex Machina ist in sieben Sitzungen unterteilt, die jeweils ‚superimposed‘, als überlagerter Titel eingeblendet werden. Auch die siebte und letzte Sitzung wird so schriftlich gekennzeichnet, obwohl der Initiator des Tests, Nathan, bereits tot ist und auch zwischen Caleb und Ava keine räumlich getrennte Testanordnung mehr besteht. Dies drückt aus, dass Ava sich aus dem menschlichen Turing- Test befreit hat und diese Befreiung eine Umkehr des Machtverhältnisses zwischen Mensch und Maschine darstellt. In diesem letzten ‚Kapitel‘ des Films wird dann noch einmal deutlich, dass die Machtergreifung Avas auf der Erlangung der Beobachtungshoheit und der körperlichen Imitation von Subjektivierungsprozessen beruht. Wie beschrieben hat Ava durch die Imitation von performativen Akten ihre vorgegebene Weiblichkeit genutzt, um Caleb und Nathan gegeneinander auszuspielen, mit dem Ziel deren panoptischen Machtverhältnissen zu entkommen. 16. 332 Lanier: Zehn Gründe, S. 190 f. V Komparative Analyse von Der Sandmann und Ex Machina 96 Ava in Ex Machina has no choice other than to perform her identity as a female. […] she has appropriated and become the patriarchal system she was ‘born’ into. […] Ava can leave her prison and uses her sexualized body to manipulate her communication partner. Caleb’s supposed compassion is just another human ‚Faktor‘ she utilizes in order to escape.333 Das Zusammenspiel von Panoptismus und Performativität bei der Subjektwerdung Avas wird noch einmal hervorgehoben, wenn Ava sich unter den machtlosen Blicken Calebs ihren Roboterkörper mit synthetischen Hautstücken ihrer Vorgängermodelle einkleidet.334 Jetzt ist es Caleb, der räumlich getrennt von Ava vor einer Fensterscheibe steht und ihr bei dem souveränen Akt zuschauen muss, wie sie ihre eigene Evolution in Gang setzt – der entgegengesetzten Beobachtungs- Situation, wie sie während des Turing-Tests bisher der Fall war. Caleb und Avas Zimmer in dieser Szene sind gegenseitig von Fenstern einsehbar, allerdings durch einen begrünten Innenhof voneinander getrennt. Calebs Gesicht und Blick auf Avas Verwandlung zu einem ‚Menschen‘ sind dabei immer von den Pflanzen in dem Innenhof durchbrochen, was den Übergang von der alten zu der neuen ‚Natur des Menschen‘ zu beschreiben scheint. Der Mensch als Zuschauer der posthumanen Evolution Ava nimmt sich dann mehrere kleine Stücke der synthetischen Haut ihrer Vorgängermodellen und legt sie über ihren Maschinenkörper, bis Abbildung 5: 333 Henke: “Ava’s body is a good one”, S. 141. 334 Garland: Ex Machina, 01:35:36–01:36:09min. 16. Die Unterwerfung des menschlichen Subjekts 97 sie sich, ununterscheidbar von einem Menschen, im Spiegel betrachtet. Hier wird noch einmal Weiblichkeit als körperlicher, performativer Akt dargestellt und die patchworkartige Hybridität des menschlichen Subjekts hervorgehoben. Weiblichkeit als Maskerade Ava hat das patriarchalische System und die vorherrschende heteronormative Matrix zu ihrem Vorteil genutzt, um sich eben aus diesem System zu befreien, jetzt aber, wo sie sich souverän in diese Gesellschaft integrieren möchte, ist sie wieder auf die Körperlichkeit ihrer Weiblichkeit angewiesen, die sie erst zu einem intelligiblen Subjekt macht. „The current female cyborg, however, has turned into a powerful goddess because ‘she’ is not only aware of the poisonous system but has become the system itself which allows her agency.“335 Ava lässt dann Caleb eingeschlossen und wahrscheinlich zum Sterben verdammt in der Forschungseinrichtung zurück und bahnt sich ihren Weg durch die Natur zu dem Helikopter, der sie in die Zivilisation überführen wird. Das Ende des Films besteht dann aus Kameraeinstellungen, die eine Kreuzung verkehrt herum abbilden, auf der die Schatten von Passanten vorbeifliegen, bis eine Silhouette stehen bleibt, die sich in der letzten Einstellung als Ava herausstellt. Ava hat somit ihren Weg in die Stadt angetreten, der von Anfang an ihrem Plan entsprach. Abbildung 6: 335 Henke: “Ava’s body is a good one”, S. 141. V Komparative Analyse von Der Sandmann und Ex Machina 98 Mit Ava wird somit keine affirmative Cyborg-Metapher gezeichnet, wie Donna Haraway sie in ihrem Ein Manifest für Cyborgs beschrieben hat. In ihrem Essay beschreibt Haraway einen Hybriden aus Mensch und Maschine als transgressive Fiktion, an der oppressive Machtstrukturen einer Gesellschaft ablesbar gemacht werden.336 Sie betrachtet den Cyborg so als Chance der Schaffung einer neuen fiktionalen kulturellen Subjektposition.337 Cyborgs sind Geschöpfe in einer Post-Gender-Welt. Nichts verbindet sie mit Bisexualität, präödipaler Symbiose, nichtentfremdeter Arbeit oder anderen Versuchungen, organische Ganzheit durch die endgültige Unterwerfung der Macht aller Teile unter ein höheres Ganzes zu erreichen. […] Im Unterschied zu Frankensteins Monster erhofft sich der Cyborg von ihrem Vater keine Rettung durch die Wiederholung eines paradiesischen Zustands, […] einer Stadt oder einem Kosmos.338 Durch den in Ex Machina verhandelten Moment der Singularität ist es vielmehr so, dass Ava sich durch das Bestehen des Turing-Tests über den Menschen erhebt und sich ihrer menschlichen Gefängniswärter Nathan und Caleb entledigt. Ihre Auswirkungen auf die Gesellschaft sind demnach nicht absehbar und werden von dem Film offen gelassen. „[I]n the end, she obtains her freedom and she can consciously build her partially transparent body with new limbs, skin and hair. With this action, she gains control on her body for the first time, transforming the Frankenstein monster into the doctor.“339 Mit Ava wird eine Figur gezeichnet, an der das gesellschaftliche Machtverhältnis des Panoptismus und auch die Körperlichkeit des Subjektivierungsprozesses lesbar gemacht werden. In diesem Sinne entspricht sie Haraways Formulierung des Cyborgs, als Fiktion, „an der sich die Beschaffenheit unserer heutigen gesellschaftlichen und körperlichen Realität ablesen läßt“.340 Allerdings wird mit Ava auch ein posthumanes Subjekt dargestellt, dass sich durch Gewalt Zugang zur Gesellschaft verschafft hat und mit dem mitfühlend handelnden Caleb einen Repräsentanten des Humanismus zum Sterben verdammt 336 Vgl. Yee: Trends in female AI Narratives, S. 87. 337 Vgl. Herbrechter: Posthumanismus, S. 89. 338 Haraway: Ein Manifest für Cyborgs, S. 3. 339 Di Minico: Ex-Machina and the Feminine Body, S. 81. 340 Haraway: Ein Manifest für Cyborgs, S. 2. 16. Die Unterwerfung des menschlichen Subjekts 99 zurückgelassen hat. Ava steht somit auch für einen Posthumanismus, der sich der Ideale des Humanismus entledigt hat und die Evolution der eigenen Spezies über das Wohl des Menschen stellt. Auch kann Ava zwar als ‚Postgender‘-Wesen eingeordnet werden, zuletzt affirmiert sie aber wieder normative Gender-Rollen, wenn sie den Körper einer Frau annimmt, um in eine Stadt zu gelangen und dort als intelligibles Subjekt wahrgenommen werden zu können. Menschliche Subjektivität wird in Ex Machina somit von einem posthumanen Subjekt nur noch zweckgerichtet ‚verwendet‘ und drückt somit eine Krise des Humanismus aus, die aus dem neu erschaffenen Gegenüber eines künstlichen Wesens herrührt. Diese Konstellation und ihre Konsequenzen für das humanistische Subjekt werden in Der Sandmann bereits angedeutet. Das Vorscheinen des Posthumanismus in Der Sandmann und Ex Machina Mit Olimpia wird in Der Sandmann noch kein posthumanes Subjekt gezeichnet. Ihre Sprachunfähigkeit drückt aus, dass ihr kein Bewusstsein zugesprochen werden kann. Dennoch besteht sie gegenüber Nathanael den Test, ob dieser sie als Menschen wahrnimmt und auch ein Großteil der Gesellschaft wurde von dem Automaten Spalanzanis und Coppelius getäuscht. Die gesellschaftliche Diskussion über den Umgang mit menschenähnlichen Automaten am Ende der Erzählung drückt dann doch den „Schrecken in der Ersetzbarkeit des Subjekts durch das Maschinenwesen“341 aus. So beschreibt der Erzähler in Der Sandmann, dass sich nach dem publik werden des Automaten-Wesens Olimpias ein „abscheuliches Mißtrauen gegen menschliche Figuren“342 in der Gesellschaft ausgebreitet hat. Als Mittel zur Verifizierung von menschlicher Subjektivität wird dann eine Art Fehlerhaftigkeit im Verhalten eingefordert und ein Sprechen, das „wirklich ein Denken und Empfinden voraussetze.“343 17. 341 Innerhofer: Die technische Modernisierung des künstlichen Menschen, S. 91. 342 Hoffmann: Der Sandmann, S. 116. 343 Ebd. V Komparative Analyse von Der Sandmann und Ex Machina 100 Die Erfindung eines künstlichen Menschen hat in Der Sandmann demnach konkrete Auswirkungen auf das gesellschaftliche Verhalten. Die Fehlerhaftigkeit des Menschen wird erstrebenswert und ein notwendiges Unterscheidungsmerkmal von der Maschine. In Der Sandmann wird somit die Frage, was die subjektive Einheit des Menschen ausmacht und wie sie sich von einer Maschine unterscheidet, bereits verhandelt. Dieses Unbehagen gegenüber der Frage, was die Subjektivität des Menschen ausmacht, „kennzeichnet also den literarischen Maschinendiskurs um 1800. Er prägt mit seiner Bildlichkeit Wahrnehmungs- wie Erkenntnisstrukturen und macht Problemkonstellationen sichtbar, die […] bis heute aktuell bleiben.“344 Auch wenn mit Olimpia kein posthumanes Subjekt gezeichnet ist, so ist sie doch ein menschenähnlicher Automat, dessen Unterscheidung von einem Menschen lange unbemerkt bleibt. Betrachtet man den Posthumanismus als eine Krise, die dem Humanismus schon immer innewohnt,345 kann gesagt werden, dass der Posthumanismus als Infragestellung der Integrität des menschlichen Subjekts im Sandmann bereits angelegt ist. Ex Machina kann in diesem Sinne als eine Aktualisierung des Sandmanns verstanden werden. Dass Ava den Turing-Test besteht und damit als posthumanes Subjekt gewertet werden kann, stellt das menschliche Subjekt in einen neuen Evolutionsprozess, in dem der Mensch nicht mehr die ‚Krone der Schöpfung‘ darstellt. Die „Verschiebung der Grenzen zwischen Mensch und Maschine [bei einem Turing- Test lässt] das liberale humanistische Subjekt nicht ungeschoren davonkommen.“346 Dies wird in Ex Machina drastisch vor Augen geführt, wenn Ava ihren Schöpfer Nathan ersticht und Caleb eingeschlossen zurücklässt. Die naturwissenschaftlichen Erkenntnisse und Debatten, die im Sandmann verhandelt werden, ähneln denen in Ex Machina demnach sehr. Der Moment der Singularität stellt im Kern die gleiche Frage, die auch La Mettries l‘homme machine aufwirft, nämlich, ob der Mensch 344 Innerhofer: Die technische Modernisierung des künstlichen Menschen, S. 85. 345 Vgl. Herbrechter: Posthumanismus, S. 68. 346 Herbrechter: Posthumanismus, S. 83. 17. Das Vorscheinen des Posthumanismus in Der Sandmann und Ex Machina 101 als Maschine verstanden und deshalb auch künstlich nachgebildet werden kann. Mit Ava wird in Ex Machina der Moment der Singularität durchgespielt. So wird das menschliche Subjekt als Resultat eines panoptischen Machtverhältnisses beschrieben und auch die Körperlichkeit von Subjektivität dargestellt. Allerdings werden diese Subjektivierungsprozesse von dem posthumanen Subjekt nur noch als Folie benutzt, um den Menschen zu manipulieren und sich letztlich über diesen zu erheben. V Komparative Analyse von Der Sandmann und Ex Machina 102

Chapter Preview

References

Abstract

Almost 200 years have passed since the publication of E.T.A. Hoffmann's Der Sandmann and Alex Garland's science fiction film Ex Machina. And yet both ask amazingly similar questions about human integrity in the face of artificial intelligence. The humanoid machines act as objects of reflection, from which it can be seen that the essence of human beings is always only contoured in an omnipresent network of power relations and by imitating normative behavior patterns. These power relations and performative acts are discussed in more detail in this work, among other things, by referring back to the concepts of panoptism and performativity. Posthuman subjects are thus negotiated as both a danger and an enlightenment for the human being.

Zusammenfassung

Fast 200 Jahre liegen zwischen der Veröffentlichung von E.T.A. Hoffmanns Der Sandmann und Alex Garlands Science-Fiction-Film Ex Machina. Und doch stellen beide verblüffend ähnliche Fragen zu der Integrität des Menschen im Angesicht einer künstlichen Intelligenz. Die humanoiden Maschinen fungieren als Reflexionsgegenstände, an denen abgelesen werden kann, dass sich das Wesen des Menschen immer erst in einem allgegenwärtigen Geflecht aus Machtbeziehungen und aus dem Nachahmen normativer Verhaltensmuster konturiert. Diese Machtverhältnisse und performativen Akte werden in dieser Arbeit unter anderem durch einen Rückbezug auf die Konzepte des Panoptismus und der Performativität näher erörtert. Posthumane Subjekte werden somit gleichermaßen als Gefahr wie auch Erhellung für das menschliche Wesen verhandelt.