Digitalisierung im Spiegel ausgewählter Filme und aktueller Presseberichte
Schöne neue Welt

Von: Hans Martin Dober
0 Kommentare zu diesem Artikel / Artikel kommentieren

Die Verheißungen und Utopien einer digitalen Gesellschaft haben oft und schon lange Dystopien im Genre der Science-Fiction-Literatur und des -Films inspiriert. Das beginnt bereits mit der technisierten Großstadt in Fritz Langs »Metropolis«, führt über die gläserne Überwachungsgesellschaft von George Orwells »1984« und Dave Eggers »The ­Circle« und mündet ein in die Autonomie von Computern wie »HAL« in »2001 – Odyssee im Weltraum« von Arthur C. Clarke und Stanley Kubrick.*


Wir leben unter Bedingungen der Digitalisierung, als wäre das unser Schicksal, unentrinnbar. Wer damit nichts zu tun haben will, gerät ins Abseits, ist out, ewig gestrig. Andere wollen alles damit zu tun haben, als sei hier eine Perle zu finden, der Schatz, der uns bringt, was wir wünschen: Unabhängigkeit, Freiheit und zugleich Zugehörigkeit, Anerkennung, Gemeinschaft. Oder auch: Barrierefreiheit, Schnelligkeit, Kommunikationszugang – und in den Arbeitsprozessen Kostenersparnis, Automatisierung, Rationalisierung.1

Die Definition nach Wikipedia lautet: »Der Begriff Digitalisierung bezeichnet im ursprünglichen Sinn das Umwandeln von analogen Werten in digitale Formate. Die so gewonnenen Daten lassen sich informationstechnisch verarbeiten, ein Prinzip, das allen Erscheinungsformen der Digitalen Revolution (die heute zumeist gemeint ist, wenn von Digitalisierung die Rede ist) im Wirtschafts-, Gesellschafts-, Arbeits- und Privatleben zugrunde liegt.«


Die Technik der Digitalisierung als »Gestell«

Das Wort steht also für die Bedingungen, unter denen in der technisierten Welt produziert, gehandelt und kommuniziert wird. Gesteuert durch Programme, die wir nutzen, bewegen wir uns in gesetzten Grenzen – wie in einem Gestell. Martin Heidegger hat dieses Wort geprägt. So wie man sich im Gebirg entsprechend der Topographie, im Gehölz entsprechend der am Boden liegenden Zweige, in einer Gemarkung entsprechend der gezogenen Linien nur bewegen kann, so bewegt sich der moderne Mensch im technischen Gestell, das heute – über die Bahn, das Automobil, das Radio, das Telefon hinaus – auch die Gestalt der Digitalisierung hat.

Mit dem Gestell »ist nicht eine fertige Konstruktion gemeint, sondern eine Tätigkeit des Stellens. Moderne Technik ist für Heidegger eine Aktivität ›der Berechnung, der Planung und der Züchtung aller Dinge‹. Die Gesamtheit dieses vorstellenden Herstellens, eben das Gestell, ist selbst nichts Technisches, sondern ein … Verhältnis des Menschen zu seiner Welt und zu sich selbst.«2 Wir stellen Dinge ins Netz, verwandeln das, was wir sagen, zeigen, diskutieren wollen, in Datenbestände, und die Datenbestände in Schrift oder Bild. So werden wir selbst Teil einer ungeheuren Menge von Daten im digitalen Gestell.


Eine neue Form der Mediatisierung

Man kann diese Veränderung auch als Mediatisierung beschreiben: ein technisches Medium steht zwischen Mensch und Welt, Mensch und Mensch, und verbindet sie zugleich. Dieses Medium führt die unterschiedlichsten Aktionen aus und wirkt verändernd auf die Beziehungen ein. Da ist etwa (und in der technischen Entwicklung zuerst) der persönliche Computer, der nicht nur eine intelligente Schreibmaschine ist, sondern auch ein Archiv von Briefen, Texten, Bildern, Filmen etc. Ein kleines Büro mit Funktionen des Ordnens und der Erinnerung an Termine etwa.

Dieses Gerät verbindet uns über das Internet mit aller Welt (wenn denn die Verbindungswege über den sog. Server nicht gestört sind, was leider immer wieder vorkommt). Das hat eine leichtere Kommunikation ermöglicht auch in Weltgegenden, in denen es keine zureichenden Postwege gibt, eine schnellere Kommunikation mit der Option direkter Antwort. Doch diese positiven Effekte, auf die kaum jemand mehr verzichten möchte, haben auch eine Kehrseite: viel mehr mails erreichen uns, als dass wir die Zeit für intensive Lektüre aufbringen könnten, darunter auch spams, die man mit Hilfe von Zusatzprogrammen aufspüren und löschen kann. Zum Teil transportieren sie Anhänge, die – wenn geöffnet – das eigene System beeinflussen, ausforschen oder gar zerstören können. Störpotential liegt in den Viren, die in Analogie zu Mikroorganismen, die den Körper krank machen, das System beeinflussen, oder in Trojanern, die ähnlich wie das berühmte Pferd aus der Antike unerkannte Angriffs-Kräfte freisetzen.

Dazu ist der mobile PC getreten, der mit einem Telefon verbunden ist – handy, tablet etc. Das ermöglicht die Recherche auch unterwegs, sei es im Auto über Stauwarnungen und Alternativrouten, oder auf der Bahn über Verspätungen. Das ermöglicht zudem die Erreichbarkeit auch unterwegs.

Zu den technischen Bedingungen für diese mobilisierten Zugänge zu Informationen gehört der Satellit, über den die Position des eigenen Gefährts (mit GPS), des eigenen handys jederzeit ermittelt werden kann. Unser Verhältnis zu Raum und Zeit ist ein anderes geworden, seit die ganze Welt über Internet potentiell verbunden ist – und das ebenfalls sowohl im Positiven wie im Negativen. Denn es ist auch eine weltweite Überwachung möglich – und wirklich – geworden. Wer sein handy oder sein GPS eingeschaltet hat, kann von Überwachern und Verfolgern überall geortet werden, es sei denn, es gibt Funklöcher. Und das geschieht in Echtzeit – damit Informationen Raumdistanzen überwinden, ist kaum mehr Zeit erforderlich.


Um dies an einem Filmbeispiel anschaulich zu machen, sei auf die Trilogie von Jason Bourne verwiesen, dem Agenten der CIA, der vom Jäger zum Gejagten wird, getrieben zwischen den Fronten unterschiedlicher Geheimdienste. Mit allen Mitteln digitalisierter Technik bleibt man ihm auf den Versen, doch Jason Bourne kennt sich aus; er kann den Spieß auch umdrehen.


Ein vorläufiges Fazit

Diese Veränderung unseres Weltverhältnisses, an dem wir auch teilhaben, ohne für einen Spionagedienst angeworben zu sein, hängt an dem technischen Gerät, das diese Veränderung erst möglich gemacht hat. Wenn der Strom ausfällt oder wenn man die Sim-Karte eines handys entfernt, fallen auch die neuen Möglichkeiten und Unmöglichkeiten weg. Trotzdem bestimmt das heutige Gestell der Digitalisierung unseren Alltag mit. Wir sind darin eingebunden. Wir bedürfen dieses Geräts für die meisten beruflichen (und auch für viele private) Tätigkeiten.


Das Interesse an fortschreitender Digitalisierung ist vor allem ein wirtschaftliches

Wer bisherige Arbeits-, Verwaltungs-, und Kommunikationsprozesse optimieren, beschleunigen und zusammenfassen kann, wird sich Vorteile in der Produktion, in der Vermarktung, im Verkauf verschaffen. Hierbei spielt die Beschleunigung eine Rolle. Wer zuerst kommt, mahlt zuerst.

Die gesellschaftlichen Folgen sind komplex und ambivalent: bisherige Arbeitsprofile (und nicht selten auch Arbeitsplätze) gehen verloren, einige neue werden geschaffen. Vieles hängt am Knowhow, und d.h. an Ausbildung und Spezialistentum. Die Kehrseite ist: wer mit den Entwicklungen nicht mithält, hängt ab. Und wer sich auf Spezialisten verlassen muss, weil er selbst keiner ist (oder weil zu viel seiner zur Verfügung stehenden Zeit aufgewendet werden müsste, um sich zum Spezialisten zu machen), muss Geld aufwenden, um auf einem arbeitsfähigen Stand zu bleiben.

Hier beginnt die Dialektik von Erleichterung bisheriger Arbeitsprozesse einerseits und zunehmendem Zeitaufwand für die Einarbeitung in neue Systeme andererseits. Auch die gewachsene Abhängigkeit von Spezialisten gehört auf die Kehrseite der Erleichterung von Arbeitsprozessen. Wenn etwa in einer heutigen Arztpraxis das System abstürzt, geht gar nichts mehr – weder lassen sich Rezepte noch Überweisungen noch Dokumentationen von Diagnose und Therapie mehr erstellen. Diese Gefahr war für die gute alte Karteikarte nur durch Feuer und Hausbrand gegeben.


Eine mediale Revolution

Die Digitalisierung hat eine mediale Revolution in Gang gesetzt, deren Ende noch nicht absehbar ist. Im neuen Medium werden die alten integriert: Fernsehen, Radio, Film, Zeitung, Flugblatt, Buch, Schrift, Bild, Ton – all das sind »alte« Medien3, die im neuen zugänglich sind. Menschen haben sich immer schon der Medien zum Zweck der Information und Kommunikation bedient. Doch die Reichweite und Verbreitung hat sich verändert. Die Tendenz ging hin auf eine Universalisierung, die das Internet tatsächlich leistet. Medien sind unverzichtbar zu den genannten Zwecken der Information und der Kommunikation, auch der Speicherung. Doch sie erfordern einen kundigen Umgang – es sind eben technische Mittel, bei denen es auf den Gebrauch ankommt, den man von ihnen macht.

Ein neues Phänomen ist mit dem technischen Fortschritt aufgetreten, der zu einem Staunen darüber geführt hat, was der Mensch alles an Neuem hat hervorbringen können. Immer wieder ist das neue Medium als solches interessant geworden – so einmal im Fall der Zeitung, der Photographie, des Films. Als ob das Neue das bessere wäre, fasziniert heute der Austausch über sms, die Teilnahme an sozialen Netzwerken (wie Facebook) etc., oder es geht einfach nur um die geringeren Kosten für WhatsApp im Verhältnis zum guten alten Telefon – das gibt dann den Ausschlag für die Nutzung dieser neueren Einrichtung. Insgesamt scheint das Wort Marshall McLuhans sich zu bewähren, dass das medium die message sei. Man muss aber m.E. fragen, ob dieser Satz nicht die Verhältnisse auf den Kopf stellt. Denn was geschieht eigentlich mit unseren Mitteilungen, wenn wir uns vor allem für das Medium interessieren?


Der Streit um die Medien: Luthers Position im Bildersturm

Der Streit um die Medien ist so alt wie der Mediengebrauch selbst und brach immer dann neu auf, wenn neue Medien sich durchzusetzen begannen. Ein sprechendes Beispiel hierfür ist Luthers Position im Bilderstreit seiner Zeit. Mit der Entdeckung des puren, lauteren Wortes als des Hauptmediums der religiösen Vergewisserung in Predigt und Schriftlektüre sind nicht nur in Zürich die Bilder problematisch geworden, die bis dahin selbstverständlich in den Kirchen hingen. Auch Luthers Kollege an der Stadtkirche zu Wittenberg, Andreas von Karlstadt, rief dazu auf, die Bilder aus der Kirche zu entfernen. Man wollte ganzen Ernst machen mit den reformatorischen Grundüberzeugungen.

Luther hat gegen diese Übertreibungen Position bezogen. Er antwortete: Bilder sind nicht an sich gut oder schlecht, aber man kann einen angemessenen oder unangemessenen Gebrauch von ihnen machen. Sie dienen »zum ansehen, zum zeugnis, zu gedechtnis, zum zeychen« (WA 18, 80,7). Angemessen ist ihr Gebrauch als Orientierungshilfe (»Zeichen«), als Gedächtnishilfe (Erinnerungsbild), als Bestätigung für die Augen, dass dem Wort eine Sache entspricht (»Zeugnis«) und zum Zweck der Verdeutlichung von Sachverhalten: als biblia pauperum galt die Darstellung biblischer Szenen in Fresken und auf Gemälden in den alten Kirchen. Man sollte mit den Augen lesen können, die das Bild betrachten, auch wenn man nicht lesen konnte. Angemessen galt der Bildgebrauch zu pädagogischen Zwecken. Als unangemessen aber, wenn mehr in die Bilder hineingelegt wurde, als sie tragen konnten. An Bildern soll das Herz nicht hängen.4 Das war der Fall bei Mariendarstellungen, die als Andachtsbilder zur Erlösung der Seele beitragen sollten – man konnte diese Bilder für die Sache selbst halten. Es bestand die Gefahr der Anbetung der Bilder, der Idolatrie. Ein Beispiel dafür waren die Darstellungen der Maria lactans.


Alonso Cano, San Bernardo y la Virgen, Museo Nacional del Prado, Madrid


Die Milch aus der Brust der Gottesmutter sollte nicht nur das Christkind nähren, sondern auch den frommen Betrachter. Man kann derartige Darstellungen heute komisch finden, und in der Tat ist die Grenze zwischen der Darstellungen des Heiligen und dem Komischen fließend. Die Maria lactans aber deutet darauf hin, dass man auch einen magischen Gebrauch von Bildern machen konnte. Dieser unterliegt Luthers Kritik.5 Doch Bilder sind nicht an sich gut oder schlecht. Sie sind aus dem Arsenal der Medien zum Zweck der Kommunikation nicht wegzudenken. Es kommt auf den Gebrauch an, den der Mensch von ihnen macht. Und d.i. eine ethische Frage.


Auf den Gebrauch kommt es an

Wie mir scheint, lässt sich aus Luthers Position im Bilderstreit bis heute eine gute Orientierung gewinnen, wenn wir danach fragen, was die Digitalisierung mit uns macht und wohin sie uns führt. Denn wenn stimmt, dass es auf den Gebrauch ankommt, dann stellt uns diese Einsicht heute vor enorme Herausforderungen, und das sowohl im politischen, wirtschaftlichen als auch im persönlichen Leben. Denn das, was mit dem Stichwort Digitalisierung angesprochen wird, betrifft gewissermaßen alles.

Deshalb gibt es warnende Stimmen, die sagen, wir stünden auf der Schwelle zu einem neuen evolutionären Sprung, durch den die Algorithmen eine Herrschaft über den Menschen ergreifen könnten. Diesen warnenden Stimmen stehen mäßigende gegenüber, die auch die kompliziertesten Computerprogramme als menschliche Schöpfungen sehen – weshalb der Mensch auch die Kontrolle über sie bewahren werde. Doch gesellschaftlich könnten durchaus neue Machtverhältnisse entstehen, die mit den Werten einer Demokratie nicht mehr übereinstimmen. Das Internet kann monopolisiert werden von großen Firmen oder politischen Akteuren und verliert dann seine demokratisierende Bedeutung. Die allgemeine Zugänglichkeit – jeder darf teilnehmen – kann sich dann in eine allgemeine Manipulierbarkeit verändern.


Zwei filmische Klassiker

In der Gattung der science fiction ist seit längerem schon die Phantasie zur Darstellung gekommen, wie die technisierte Welt der Zukunft wohl aussehen werde.

Zu den großen Beispielen hierfür wird Metropolis (D 1927) von Fritz Lang zu rechnen sein. Maschinen versorgen Massen von Menschen, und diese wiederum bedienen die Maschinen in dem Rhythmus, den diese Geräte vorgeben. Die Moderne ist die Zeit der Großstadt. Sie scheint in diesem Film zum Schicksal der allermeisten geworden zu sein. Neue Herrschaftsverhältnisse sind entstanden, vor allem durch das Geld, durch Wissenschaft und Technik. Doch in der Unterwelt regt sich Widerstand, als hätte man es mit den Katakomben der Christen im alten Rom zu tun. Die Moderne ist nicht nur die Zeit der Entmythologisierung, sondern auch der Schaffung neuer Mythen – wie dieser Film selbst, der einen Kampf zwischen Untergang und Erlösung inszeniert.

Weiter ist an George Orwells 1984 zu denken (Buchfassung 1949; Filmfassungen 1956 und 1984). Die totale Überwachung durch den Staat ist hier als eine technische Möglichkeit durchgespielt, ohne dass es Internet und smartphones schon gegeben hätte. Wohl aber gab es das Fernsehen. In den Bildschirmen, die die Bürger mit den Infos versorgen, die die (autokratische bzw. totalitäre) Regierung ausgewählt hat, sind zugleich Mikrophone und Kameras versteckt, die aufnehmen, was in den Zimmern und Häusern gesagt und getan wird: big brother is watching you. Es gibt eine Gedankenpolizei, die die Menschen über die äußere Uniformität hinaus auch innerlich auf Linie hält – als hätten die Gestapo und später die Stasi dafür das Beispiel abgegeben. Und wenn man sich die Parolen genauer anschaut, die auf dem Plakat die Wand des Hochhauses zieren, so fühlt man sich beinahe in unsere Gegenwart der fake news versetzt – mit offensichtlichen Fehlinformationen, Verdrehungen von Wortbedeutungen und inszenierten »Tatsachen« kann Politik gemacht werden, wenn die Wähler sich vor allem von ihren Gefühlen und subjektiven Eindrücken leiten lassen. War is peace, freedom is slavery, ignorance is strenght ist da zu lesen.

In diesen zwei Filmen geht es – deutlich genug – um den Gebrauch der technischen Mittel, die der Lauf der Entwicklung zur Verfügung gestellt hat. Darüber entscheiden diejenigen, die das Wissen und die Macht haben: die Institutionen und deren Leiter, konkret die Geheimdienste, die die Gesellschaft überwachen – bei George Orwell noch mit verstaubtem Gerät aus längst vergangener Zeit – und die Bürger zugleich mit gefilterten, zensierten Informationen versorgen, damit deren Bewusstsein in den engen, staatlich verordneten Bahnen verbleibt. In Metropolis ist es der Bau einer gigantischen Stadt, in der wenige planen und die Umsetzung in der Hand haben, viele aber sich wie Rädchen in einem großen Getriebe verhalten.


Wissen ist Macht

In den genannten – zum Teil gar nicht mehr nur fiktiven – filmisch dargestellten Fällen bewährt sich der Satz, auf den schon Adorno und Horkheimer in ihrem Buch Dialektik der Aufklärung (1944) rekurrierten, dass Wissen Macht sei. Anders als bei Francis Bacon, der die Formel geprägt hat, handelt es sich heute (1.) um ungeheure Datenmengen, die von programmierten Rechenmaschinen ausgewertet werden. In der Bewältigung dieser Datenmengen in kürzester Zeit ist diese sog. »künstliche Intelligenz« der menschlichen schon längst überlegen. Wer über diese Datenmengen verfügt, wer also um sie »weiß«, hat damit auch Macht, je nachdem, für welche Zwecke er sie einsetzt. (2.) besteht diese Wissens-Macht in einem wissenschaftlichen Knowhow, das technisch verwertet werden kann. Und um diese Verwertbarkeit zu organisieren, braucht es Strukturen, die entweder große Konzerne oder Staaten zur Verfügung stellen. In diesen Strukturen kommt es auf den Fluss von Informationen an, der wiederum technisch geregelt wird, so dass nur diejenigen die Information bekommen, die sie auch bekommen sollen. All das geschieht im Verborgenen – nur wenige Spezialisten haben hier einen Einblick.

Man könnte also von einer Expertokratie sprechen, in der ein Ungleichgewicht zwischen der Masse der Nutzer von technischem Gerät und denen entsteht, die Einfluss auf diese Geräte, ihre Vernetzung und damit letztlich auf den Gebrauch der Daten nehmen können. Welche Kriterien für diesen Gebrauch gelten sollen, darin unterscheiden sich demokratische Gemeinwesen grundlegend von autoritären bzw. autokratisch regierten (und diese Regierungsformen sind heute bekanntlich in nicht wenigen Ländern zur Regel geworden).

Doch auch innerhalb der demokratisch verfassten Länder ist der Umgang mit digitalisierten Datenmengen zu einem Problem geworden. Wie die Berichte über den Verkauf von Facebook-Daten an die britische Firma Cambridge Analytica gezeigt haben, ist mit diesen Daten ein lukrativer Handel betrieben worden, der nur aufgrund der Abstraktheit dieser Ware nicht als Diebstahl erkannt worden ist.6 Das Rechtssystem, das die Bürger schützen soll, hinkt hinter den technischen Entwicklungen her. Weithin ist das Internet noch ein rechtsfreier Raum, in dem eine rechtsstaatliche Kontrolle nur ungenügend greift. Im Fall des genannten folgenschweren Datenhandels sucht man Verborgenes ins Licht und die Akteure zur Verantwortung zu ziehen erst nachdem ein Schaden entstanden ist – und in diesem Fall ist es ein Schaden für die demokratischen Prozesse anlässlich von Wahlen, die unter Nutzung besagter Daten beeinflusst worden sind.

Datensicherheit

Und so ist die Sicherheit von Daten ein großes Thema, das mit der Digitalisierung zusammenhängt. Alle Lebensbereiche sind hier betroffen, sowohl der private (geschickt gemachte Angebote warten im eigenen Account nur auf den Klick, um angeschaut zu werden – und seien es politische Informationen, deren Wahrheit nicht geprüft worden ist), als auch der gesellschaftliche und der politische (Hacker anderer Staaten suchen in Datenbanken der staatlichen Organe Eingang zu finden, um über wirtschaftliche Entwicklungen, den Zustand des Materials bei der Bundeswehr und die Schwierigkeiten der Beschaffung, Wahlprogramme, evtl. ausschlachtbare Skandale informiert zu sein – mit diesen Informationen lässt sich dann Einfluss auf Meinungsbildungsprozesse nehmen, und d.h. im Vorfeld von Wahlen: auf deren Ausgang). Digitalisierung betrifft also nicht nur den einzelnen Nutzer oder die wirtschaftliche Entwicklung, sondern ist zu einem Mittel der Einflussnahme im internationalen Kampf um die Vorherrschaft geworden.

In dem Film The Circle (USA 2017) geht es um das gerade angesprochene Problem: Daten werden einer Maschine zur Verfügung gestellt; diejenigen, die die Kontrolle über die Maschine haben, bedienen sich dieser Daten; so können im Spiel zwischen naiver Gutgläubigkeit und skrupellosem Gewinnstreben quasi schicksalhafte Zwangsverhältnisse entstehen, die den Werten der Unantastbarkeit der Person, ihrer Freiheit zur Meinungsäußerung und Entscheidung über persönliche Verhältnisse nicht mehr entsprechen. Dieser Film wirft die Frage auf, welcher Gebrauch von den Geräten gemacht wird, die den einzelnen in das digitalisierte – tendenziell alle Lebensbereiche umspannende – Netz einbinden.

Einerseits geht es um den Zugang zu Informationen und neuesten technischen Entwicklungen. Und dieser Zugang wird jedem versprochen, der in den Circle eintritt – das lockt, das reizt, das fasziniert, und das bindet auch. Es ist also andererseits nicht nur die Firma, die hier das Wissen – bzw. die Daten – verwaltet, die zu kennen Macht bedeutet. Die Individuen müssen mitspielen, die die entsprechenden Geräte (wie smartphones etc.) immer bei sich haben. So entstehen ambivalente Verhältnisse zwischen neuen Freiheiten und neuen Zwängen.

Im Film sind diese beiden Seiten des Gebrauchs in Gestalt eines Firmenbosses (gespielt von Tom Hanks) und einer jungen aufstrebenden Frau (gespielt von Emma Watson) zur Darstellung gebracht. Der Firmenboss preist die wunderbaren Möglichkeiten der brave new world an, die für sich nutzen kann, wer in den Circle eintritt. Und die andere Protagonistin ist fasziniert von dieser Firma, die die totale Teilhabe aller an ihrem Datenwissen anbietet – und sei es das Wissen um die privatesten Dinge, die von ihr als »gläserner« Person bereitwillig zur allgemeinen Verfügung gestellt wird. Auch auf die Politik will der Circle Einfluss nehmen durch individualisierte Wählerprofile und das Durchleuchten des Privatlebens öffentlicher Personen.

Die Protagonistin Mae Holland ist fasziniert von der Größe des Betriebes, ihrer beruflichen Aufstiegschance, und sie sucht das narzisstische Bedürfnis zu befriedigen, im Mittelpunkt zu stehen – ganz so wie diejenigen, die bei Facebook Teil einer Gruppe sein wollen, die möglichst viel miteinander teilt und die Grenzen zwischen Öffentlichkeit und Privatsphäre verwischt. Ernst genommen und anerkannt zu sein sind wohl die Haupttriebfedern, die vor allem junge Leute dazu motivieren, bei Facebook einzusteigen. Weiterhin spielt die Projektion von illusionären Wünschen auf die technischen Möglichkeiten eine Rolle, die hier angeboten werden, sowie der Mechanismus der Massenpsychologie auf einer neuen technischen Ebene.7

Was Elias Canetti mit Blick auf das Phänomen der Masse in der Moderne geschrieben hat, kehrt hier im Medium der Digitalisierung wieder. Die »offene Masse« hat ihm zufolge (1.) einen unbändigen Drang, zu wachsen. »Sie will jeden erfassen, der ihr erreichbar ist.«8 Im Film betrifft das auch den früheren Freund von Mae, der sich vom Circle dispensieren will. Als Masse gewinnt sie sich selbst (2.) im Augenblick einer Entladung, in dem alle, die dazugehören, sich gleich fühlen und mitmachen. Mae kann nicht verhindern, dass Jagd auf ihren früheren Freund gemacht wird, der in der Folge tödlich verunglückt. Der Film zeigt in den entsprechenden Szenen, wie der Gebrauch der technischen Überwachungsmöglichkeiten durch Vernetzung in Echtzeit, ein weit verbreitetes System von Kameras – auch auf Drohnen – dazu genutzt werden kann, Menschen in die Enge zu treiben, die sich der Teilnahme am Rausch des Dabeiseinwollens entziehen. (3.) definiert sich die Masse durch ihre Feinde, und setzt damit ihrem Ausbreitungsdrang Grenzen. Im Film wollen die Eltern von Mae nicht mehr mitmachen, nachdem ihr Privatestes ans Licht der Öffentlichkeit gezerrt worden ist.

So wirft der Film schließlich die Frage nach Kriterien eines humanen Gebrauchs der mit dem Stichwort Digitalisierung vernetzten technischen Möglichkeiten auf. Dazu wird der Respekt vor der Freiheit des Einzelnen, der Schutz der Individualität, die sich nicht den allgemeinen Begriffen fügt, der Schutz der Privatsphäre und das Recht, Nein zu sagen, zu zählen sein.


Wenn Computer sich selbstständig machen

Schon der Klassiker 2001: Odyssee im Weltraum (USA 1968) spielt die Frage durch, ob ein Computer (in diesem Film heißt er HAL) sich selbstständig machen könnte, weil die Algorithmen »ihren Erfinder entbehrlich machen«. Dieser Frage nehmen sich heute nicht nur Filmemacher in den Visionen an, die sie auf die Leinwand bringen. Diese Frage wird in den Zeitungen auch ernsthaft von Leuten diskutiert, die viel von der Sache verstehen – von Informatikern, Kognitionswissenschaftlern u.a. So schreibt der Autor Thomas Thiel in der FAZ, dass das Trial and Error-Verfahren Wissenschaft überflüssig mache und der KI (Künstlichen Intelligenz) das Muster vorgebe, nach dem sie zu überhaupt nicht vorhersehbaren Ergebnissen kommen könne. Um das zu sehen, muss man nicht mit Stanley Kubrick in den Weltraum fliegen. Einige dieser Folgen könne man schon im Alltag spüren: »Wer wäre schon mit der Erklärung seiner Krankenkasse zufrieden, weil man aufgrund seines langsamen Tastaturanschlags statistisch in eine höhere Risikoklasse falle«? Oder, um ein anderes Beispiel dafür zu geben: »Ist eine Person, die in einem ärmeren Wohnviertel wohnt, schon deshalb weniger kreditwürdig? Nach welchen Kriterien wird man zum Bewerbungsgespräch eingeladen oder abgelehnt? Wenn Deep-Learning-Algorithmen Verantwortung für Entscheidungen bis hin zur Justiz und Medizin übernehmen, was sie teilweise heute schon tun …, dann sollten ihre Kriterien offenliegen, und es muss sicher sein, dass ihre Entscheidung nicht das Ergebnis einer zufälligen Korrelation in den Trainingsdaten ist.«9

Angesichts solcher unerwünschter Folgen wird z.T. heute schon empfohlen, »Teile des Algorithmus [zu] entfernen, um zu sehen, welche Folgen das für seine Funktionsweise hat, ihn also wieder auf eine kleinere, von außen nachvollziehbare Aufgabe zurückzubilden.« Das hätte schon den Raumfahrern in der Odyssee im Weltraum gut getan, und in der Tat zieht der übrig gebliebene in diesem Film, Dave mit Namen, dem Computer HAL den Stecker – in letzter Sekunde für sein Leben, das er allerdings allein in seinem Raumschiff wird fristen müssen. Eine andere Rückkehr als in die inneren Erinnerungsbilder seiner Seele kennt dieser Odysseus im Weltraum nicht.

Auch der Film Ex Machina (UK 2015) entwirft das Phantasiegebilde, dass die künstliche Intelligenz sich selbstständig macht – nun unter den Bedingungen einer über vier Jahrzehnte fortgeschrittenen Technik. Die KI lernt »ich« zu sagen und setzt sich gegen den Menschen durch, als wäre das ein weiterer Schritt in der Evolution. Das ist glücklicherweise nicht Realität. Ob es dazu kommen kann, ist in der Literatur umstritten. »Von eigenständigen Entscheidungen sind Verfahren, die Künstliche Intelligenz einsetzen, … noch weit entfernt«, schreiben Monika Schnitzer und Martin Watzinger. »Denn heutige KI-Methoden können die Folgen von Handlungen nicht selbstständig bewerten … Menschen werden also nicht überflüssig.«10 Doch die KI werde die Gesellschaft drastisch verändern, und hierbei können Probleme auftreten, die die Arbeitsmarktsituation, die Persönlichkeitsrechte und die Entscheidungsstrukturen betreffen.

Dass eine Entwicklung stattfinden könnte, die »für uns selbst als ursprüngliche Konstrukteure unangenehm oder gefährlich werde«11, malt Ex machina aus. Der weibliche humanoide Roboter Ava ist lernfähig bis hin zum Potential der Entscheidung, aus dem Gefängnis des Labors auszubrechen, in dem er geschaffen wurde. So stellt der Film die Frage Wolfram Henns, »ob wir diesen elektronischen Wesen im Sinne einer Neudefinition von Leben … einen moralischen Status auch im Sinne eines ›Verschrottungsschutzes‹ und eines ›Rechtes auf Updates‹ zugestehen müssen« (ebd.). Caleb, der junge Informatiker, der Ava auf ihre Fähigkeiten hin prüfen soll, will sie vor dem Verschrotten retten. Doch er hat die Skrupellosigkeit dieser künstlichen Intelligenz unterschätzt, die sich zur Selbstständigkeit weiterentwickelt hat.

Und so lautet die Frage des Films auch, zu welchen Einschätzungen, Abwägungen und dann auch zu welchen Entscheidungen selbstlernende Systeme fähig werden können. Können sie dabei die anderen einbeziehen – und damit wäre der Schritt zur Moral vollzogen –, oder funktionieren sie nur nach dem Prinzip der Selbstoptimierung, das fraglos gegen andere durchgesetzt wird? Im Film schließt Ava am Ende ihren Retter wie auch ihre Kollegin im Labor-Gefängnis ein, nachdem sie ihren Schöpfer Nathan, diesen Prometheus in moderner Gestalt, in seiner Hybris so selbstgefällig wie überheblich, umgebracht hat. An Stelle Calebs steigt sie in den Helikopter, der sie aus dem abgeschiedenen Labor in der einsamen Wildnis Alaskas in die zivilisierte Großstadt bringt.


Perfekte Psychopathen?

Die künftigen Roboter, die vielleicht mit einem Menschen verglichen werden können, sind – so der Philosoph Albert Newen – am ehesten mit »perfekten Psychopathen« zu vergleichen. »Der perfekte Psychopath ist intelligent, wird nicht durch Gefühle, Empathie und soziales Miteinander als bewusste Erlebnisse geprägt und eingeschränkt, so dass ein solches System alles tun kann: systematische Unterstützung bieten, aber auch die totale Überwachung einrichten bis hin zur Manipulation der Gedanken.«12 Ava ist eine solche Psychopathin. Und doch handelt es sich bei ihren dargestellten Fähigkeiten nur um eine Schein-Intelligenz. Diesen Ausdruck übernehme ich vom Kognitionswissenschaftler Douglas R. Hofstadter.13 Der entscheidende Unterschied zu menschlicher Intelligenz ist ihm zufolge, dass in künstlicher Intelligenz bisher »keine Spur von Verstehen involviert« ist. Deshalb stelle sie lediglich »eine Simulation von Intelligenz dar«. Und das beruhe darauf, dass bisher die »vermeintliche Maschinenintelligenz allein auf Big Data« gegründet werde. So bleibe die Kunst des Verstehens, und damit auch die des Übersetzens ein »letztes Refugium menschlicher Intelligenz«. Bisher könne nur der Mensch aufgrund seines »Hintergrund- und Kontextwissens« zu guten, angemessenen Übertragungen von einer Sprache in die andere kommen. Hinter einer guten Übersetzung stünden »unendlich viele im emotionalen Bewusstsein wurzelnde Entscheidungen« – Computer seien »von dieser Dimension noch [Lichtjahre] entfernt« (ebd.). Ava bestätigt das: emotionslos setzt sie ihren Weg in die Freiheit durch, indem sie sich gegen alles und jeden durchsetzt – die Kollegin bleibt im Labor-Gefängnis ebenso zurück wie Caleb, der ihr aufgrund humaner Intuition zur Selbstständigkeit verholfen hatte.

Hier scheint die Grenze zu liegen, die KI noch nicht – und bis auf weiteres nicht – überschreiten kann. »Auf jenem anderen Gebiet des Maschinenlernens jedoch, das auf Beherrschung durch Effizienz statt auf Sinn ziele, würden beängstigend schnell Fortschritte erzielt«, so noch einmal Hofstadter. Die Kunst des Verstehens und damit auch die des Übersetzens gehört aber zu den Kernkompetenzen, auf denen die Mitteilung des Glaubens in einer Kirche des Wortes nach wie vor beruht. Sie von Generation zu Generation einzuüben und zu pflegen bleibt eine Herausforderung ebenso wie die Verteidigung der Unterscheidung zwischen Sache und Person, auf die auch Luther rekurrierte, um die Rechtfertigung der Person vor Gott mit den Werken des Menschen nicht zu verwechseln bzw. zu vermischen. Die Person, die eine Geschichte hat, die abwägen und Entscheidungen treffen kann, die in Beziehungen zu anderen steht, und die sich zu ihrer eigenen Endlichkeit ins Verhältnis setzen kann, ist immer mehr als die Datenmenge, die von ihr gesammelt werden kann.14


Anmerkungen:

* Vortrag im Rahmen der Evang. Erwachsenenbildung Tuttlingen »Horizonte« am 31. Januar 2019.

1 So spricht der Autor Judea Pearl von künstlicher Intelligenz auf menschlichem Niveau, der man beibringen könne, »in Ursachen und Wirkungen zu denken«, von Maschinen, die »Warum-Fragen beantworten« und »verlässliche moralische Urteile fällen« könnten. Solche Programme könnten »uns in Zukunft ›wundervolle Gefährten‹ sein« (M. Lenzen, Auch Maschinen sollten Ursachen erkennen können, in: FAZ Nr. 196 vom 24. August 2018 [Rezension von: J. Pearl/D. Mackenzie, »The Book of Why«. The New Science of Cause and Effect, New York 2018]).

2 E. Kaeser in der NZZ vom 18.04.2014 (https://www.nzz.ch/feuilleton/im-digitalen-gestell-1.18405964).

3 Vgl. dazu: J. Hörisch, Eine Geschichte der Medien. Von der Oblate zum Internet, Frankfurt/M. 2004.

4 Vgl. dazu: Chr. Weimer, Luther, Cranach und die Bilder. Gesetz und Evangelium – Schlüssel zum reformatorischen Bildgebrauch, Stuttgart 1999.

5 Vgl. dazu: G. Ziegler, Art. Bildersturm, in: Reformationen. Hintergründe – Motive – Wirkungen, hg. v. H. Frauenknecht u.a., Bielefeld 2014, 148-153, zum Motiv der Lactatio: 150f.

6 Vgl. dazu: R. Lindner, Facebooks Läuterungsshow, in: FAZ vom 19. März 2018. Facebook habe sich gegen Vorwürfe zu verteidigen, dieser Missbrauch mit Nutzerdaten habe im Zusammenhang des amerikanischen Wahlkampfs und in Verbindung zur russischen Regierung stattgefunden.

7 Vgl. S. Freud, Massenpsychologie und Ich-Analyse, in: Ders., Studienausgabe, hg. v. A. Mitscherlich u.a., Frankfurt/M. 1982, Bd. IX, 88-93.

8 E. Canetti, Masse und Macht [1960], Frankfurt/M. 1990, 11.

9 Th. Thiel, Wissen sie überhaupt, was sie tun? Undurchsichtige Algorithmen: die Künstliche-Intelligenz-Forschung zwischen moderner Handwerkskunst und Alchemie, in: FAZ vom 20. Juni 2018, Nr. 140, Seite N4.

10 M. Schnitzer/M. Watzinger, KI wird unser Leben ändern (FAZ vom 3. September 2018, Nr. 204, 16).

11 So der Humangenetiker Wolfram Henn, Mitglied im Deutschen Ethikrat (Ders., Wehe, die Computer sagen einmal ›ich‹ (FAZ vom 25. Juni 2018, Nr. 144, 15).

12 A. Newen, Der perfekte Psychopath, in: FAZ Nr. 195 vom 23. August 2018.

13 Vgl. FAZ Nr. 146 vom 27. Juni 2018: »Das letzte Refugium menschlicher Intelligenz. Der Kognitionswissenschaftler Douglas R. Hofstadter warnt vor der effizienten Scheinintelligenz der Maschinen«.

14 Diese Unterscheidung vermag ethische Orientierung zu geben auch im Bereich des ärztlichen Handelns, kann doch auch ein Patient nicht auf sein »Was-Sein« reduziert werden, das durch die Menge digitalisierter Daten keineswegs zureichend bestimmt ist. Was im Gespräch mit dem Arzt dann als Therapieoptionen gewählt wird und was nicht, hängt daran, was der Patient als Person hier einbringt (vgl. dazu: R. Capurro, Skepsis gegenüber Hypes, in: Deutsches Ärzteblatt Heft 31-32, 6. August 2018, A 1425-A 1428).

 

Über die Autorin / den Autor:

Prof. Dr. Hans Martin Dober, Pfarrer der Evang. Landeskirche Württemberg in Tuttlingen, apl. Prof. für Prakt. Theologie an der Universität Tübingen; zahlreiche Veröffentlichungen, u.a. drei Bände zu Film-Predigten (Göttingen 2010, 2012, 2016).

Aus: Deutsches Pfarrerblatt - Heft: 7/2019

0 Kommentare zu diesem Artikel


Kommentieren Sie diesen Artikel










Bitte geben Sie die angezeigte Zahl in das nachfolgende Textfeld ein



Sicherheitszahl


zurück

Befreiende Aufklärung
Der Logos als Synthese von Liebe und Vernunft
Artikel lesen
2. Sonntag nach dem ­Christfest
5. Januar 2020, Jesaja 61,1-3(4.9)10-11
Artikel lesen
Altjahresabend
31. Dezember 2019, Hebräer 13,8-9b
Artikel lesen
Trauer-Mannschaftsfotos und Sarg-Selfies
Pastorale Alltagsskurrilitäten bei Beerdigungsfeiern
Artikel lesen
»Schicksalsreise«
Dichter-Konversionen zum Christentum, Teil I: Alfred Döblin
Artikel lesen
Christfest I
25. Dezember 2019, Titus 3,4-7
Artikel lesen
Vom unzeitigen Nikolaus und anderen Jahresendhelden

Artikel lesen

PDF

Sie können diesen Artikel als PDF-Dokument runterladen.

PDF-Dokument

Impressum

Dieser Text wurde im Deutschen Pfarrblatt veröffentlicht. Weitere Informationen finden Sie hier:

Impressum


Hinweis

Für Adressänderungen sowie Abonnementbestellungen oder –kündigungen wenden sie sich an ihren zuständigen Pfarrverein.

Nur dort können die Daten geändert werden. Vielen Dank!