Sind Deepfakes eine epistemische Herausforderung?

Ende 2017 verbreiteten sich Medienberichte über eine Software eines anonymen Programmierers, die täuschend echte pornografische Videos von Prominenten ausschließlich mithilfe der Google-Bildersuche, Stockfotos und YouTube-Sequenzen sowie einen als Vorlage dienenden Pornofilmes herstellen konnte¹. Der Nutzername des anonymen Programmierers auf Plattform Reddit, die zur Verbreitung der Videos verwendet wurde, wird heute in der Öffentlichkeit als Schlagwort für eine aus technologischer Sicht hochspannende Innovation² benutzt, die jedoch scheinbar zur „Erosion des Wissens in demokratischen Gesellschaften" führen soll³. Deepfakes, so lautet das Schlagwort, wurden im November 2019 in China sogar verboten⁴, ebenso wie in einigen US-Bundesstaaten, allerdings hier mit der Einschränkung, dass sich der Verbotszeitraum auf 60 Tage vor einer Wahl begrenzt⁵. Die schnellen Entwicklungen in den letzten zwei Jahren -- von gefälschten pornografischen zu vermeintlich staatsgefährdenden Inhalten -- haben Deepfakes nicht nur ins Licht der Öffentlichkeit gerückt, sondern auch die Aufmerksamkeit der Philosophin Regina Rini geweckt. In ihrer Publikation „Deepfakes and the Epistemic Backstop" warnt sie unter anderem davor, dass die durch Deepfakes ausgelösten Verwerfungen „unsere sozialen und politischen Systeme" beschädigen können⁶. Allerdings sind einige von Rinis Thesen und Argumente diskutabel, sodass sich die Frage stellt, ob tatsächlich Deepfakes eine epistemische Herausforderung darstellen. Im Folgenden werden Rinis Kernthesen als Grundlage dienen, um diverse von der Ausgangsfrage aufgeworfene Aspekte zu behandeln. Der Fokus wird dabei auf die Möglichkeit, mithilfe von Deepfakes den öffentlichen Diskurs zu beeinflussen, gelegt.

Dieser Essay wurde von mir im Rahmen des Seminars "Philosophie der Algorithmen" an der ETH Zürich geschrieben.

Aufnahmen haben einen besonderen Stellenwert im öffentlichen Diskurs indem sie einen epistemischen Auffangmechanismus darstellen

Aufnahmen⁷ sind heutzutage allgegenwärtig und nicht mehr aus dem Alltag und dem öffentlichen Diskurs wegzudenken. Laut Rini stellen Aufnahmen dabei einen epistemischen Auffangmechanismus für unsere Aussagen und Zeugnispraktiken dar. Zum einen nähmen sie eine aktiv korrigierende Rolle ein, indem mithilfe von Aufnahmen Aussagen auf ihren Wahrheitsgehalt überprüft werden könnten. Als Beispiel führt Rini die Tonbänder aus dem Weißen Haus auf, die den damaligen US-Präsidenten Richard Nixon der Lüge überführt haben. Ein aktuelleres Beispiel, bei dem Videos einen maßgeblichen Anteil an der Glaubwürdigkeit und auch an der öffentlichen Wirksamkeit hatten, sind die „Strache-Videos"⁸ bei der sogenannten „Ibiza-Affäre". Die Existenz der Videos hat nicht nur dazu geführt, dass die Beschuldigten die Vorwürfe nicht glaubhaft zurückweisen konnten⁹, sondern auch dass sich die Öffentlichkeit selbst ein Bild von dieser bizarren Situation machen konnte. Ohne die Videos hätten die Recherchen sicherlich eine geringere Aufmerksamkeit bekommen. Wichtig hierbei ist, dass es keinen Zweifel an der Echtheit der Aufnahmen gab.

Neben der aktiv korrigierenden Funktion von Aufnahmen beschreibt Rini eine passiv regulierende Rolle, die sie selbst für die wichtigere hält, was sie unter anderem mit aufkommenden Krisen des Auffangmechanismus („backstop crises") erklärt¹⁰. Zunächst meint Rini mit der passiv regulierenden Funktion, dass wir selbst ehrlich seien, da wir jederzeit aufgenommen werden könnten, womit wir bei einer Falschaussage der Lüge bezichtigt werden könnten. Außerdem folge daraus, dass man auch bei anderen Personen annehmen könne, dass diese wiederum ehrlich ist. Im Zeitalter der Deepfakes ginge diese Funktion allerdings verloren, da wir durch „backstop crises" weniger zur Ehrlichkeit motiviert seien.

Obwohl die aktiv korrigierende Funktion sicherlich für einen Großteil der in den Medienberichten vorkommenden Videosequenzen zutrifft, sollte nicht vergessen werden, dass es schon seit langer Zeit unverfälschte Aufnahmen gab, die allerdings in einem veränderten Kontext oder in einer verkürzten Version eine andere Aussage haben. Als Paradebeispiel kann die Kontroverse um den Stinkefinger des damaligen griechischen Finanzministers Yanis Varoufakis genommen werden¹¹. Im Originalvideo, von dem bei Günther Jauch ein kurzer Ausschnitt gezeigt wurde, zeigt Varoufakis Deutschland den Mittelfinger. Was allerdings in der gesamten Sendung nicht besprochen wurde ist, dass Varoufakis im Originalvideo sagt, dass es gerade keine Option sei, Deutschland den Mittelfinger zu zeigen. Dass Varoufakis selbst nicht auf diesen Fakt hinweist, sondern irrtümlicherweise von einer Fälschung spricht, hat zur Aufklärung der Situation sicherlich auch nicht beigetragen¹². Bereits Rini hat in ihrem Text darauf hingewiesen, dass wir möglicherweise schlicht zu viel Vertrauen in Aufnahmen gesteckt haben und nun durch die Debatte um Deepfakes lediglich unser Vertrauen auf ein angemessenes Maß gesenkt wird.

Auch die von Rini als wichtig angesehene passiv regulierende Funktion von Aufnahmen muss zumindest kritisch hinterfragt werden. Selbstverständlich sind die von ihr gewählten Beispiele intuitiv einleuchtend und man kann sich aus der eigenen Erfahrung Beispiele suchen. Allerdings ist nicht zu leugnen, dass es dennoch viele Personen gibt, die in die Kamera lügen. Sicherlich kann man Donald Trump an dieser Stelle nennen, der laut Washington Post in seinen ersten drei Jahren als US-Präsident über 16'000 falsche oder irreführende Aussagen getätigt hat¹³, wovon viele auf Video festgehalten wurden.

Deepfakes haben Besonderheiten gegenüber gefälschten Fotos (und andersartiger Videomanipulation)

Der Begriff „photoshoppen" gehört bei vielen Menschen bereits lange zum Alltag. Obwohl Fotomanipulation allgegenwärtig ist, gab es noch keine epistemische Katastrophe. Laut Rini kann man Deepfakes allerdings nicht mit Fotomanipulation gleichsetzen, was sie mit vier Argumenten untermauert. Diese gilt es zu überprüfen. Außerdem muss zwingend untersucht werden, ob Deepfakes auch Eigenschaften haben, die sie von herkömmlichen Videomanipulationstechniken unterscheiden.

Zunächst geht Rini auf die psychologische Komponente ein: Durch den zeitlichen Faktor seien Videos einnehmender und fühlen sich echter an als Fotos. Dem ist nicht zu widersprechen, einzig auf den obigen Abschnitt kann man verweisen: Es gibt starke Hinweise dafür, dass wir bisher ein zu hohes Vertrauen in Aufnahmen gesteckt haben.

Als zweites könne man nun mithilfe von Deepfakes innerhalb von kurzer Zeit und mit wenig Aufwand gefälschte Videos herstellen, um bei epistemischen Herausforderungen unwahre Beweise vorlegen zu können. Als Beispiel nennt Rini eine Situation aus einer Wahlkampfveranstaltung, als es um die Frage ging, ob ein Reporter am Arm gepackt worden war, um vom Fragen abgehalten zu werden. Gegen dieses Argument spricht jedoch, dass Deepfakes sowohl eine große Rechenleistung als auch eine große Datenmenge zum Training benötigen. Gerade das von Rini gewählte Beispiel ist unpassend, da dies eine sehr außergewöhnliche Situation ist, zu der es keinerlei passendes Trainingsmaterial und auch keine vortrainierten GAN-Modelle gibt¹⁴.

Darüber hinaus wird von Rini festgestellt, dass Deepfakes eine zu textlichen „Fake News" ähnliche Massenproduktion von gefälschten Videos erlaube. Jedoch sprechen zum einen die oben genannten Probleme der benötigten Rechenleistung und Trainingsdaten dagegen¹⁵. Zum anderen reichen in den meisten Fällen sogenannte Cheapfakes oder Shallowfakes aus, um die vom Fälscher gewollte Konfusion zu erreichen, denn oft reicht ein leicht verändertes, gekürztes, oder im falschen Kontext benutztes Video¹⁶. Diese Thematik wird später detaillierter behandelt.

Als letztes Argument für eine Sonderstellung von Deepfakes im Vergleich zur Fotomanipulation erklärt Rini, dass man bei potentiell gefälschten Fotos immer noch auf Videos aus epistemischen Auffangmechanismus zurückgreifen könne. Ein solcher Auffangmechanismus sei mit der Einführung von Deepfakes nicht mehr vorhanden. Dieser Feststellung ist nicht zu widersprechen, denn eine über Videos hinausgehende Informationsquelle steht uns nicht zur Verfügung. Allerdings sollte man festhalten, dass nur die wenigsten politisch Interessierten sich wegen eines einzigen gefälschten Videos von einer anderen Meinung überzeugen lassen¹⁷.

Was bei Rini kaum angesprochen wird, ist die Tatsache, dass Deepfakes fast keine Neuerungen im Vergleich zur herkömmlichen Videomanipulation aufweisen. Tatsächlich ist keine der von Rini genannten Beispielsituationen auf Deepfakes angewiesen, denn stets könnte man auch mit traditionellen Methoden Konfusion erzeugen oder damit die Echtheit von authentischen Videos bezweifeln¹⁸. Sicherlich braucht man mit Deepfakes weniger Expertenwissen, wenn man beispielsweise Aussagen aus einer Pressekonferenz verfälschen möchte¹⁹. Wie aber später gezeigt wird, ist bei solchen Situationen ein Cheapfake, also etwa eine aus dem Kontext gerissene Aussage, oft mehr als ausreichend. Eine offensichtliche Fälschung mittels Deepfakes wäre durch andere Videomitschnitte -- gerade im Zeitalter der Smartphones -- deutlich eher als Fake zu enttarnen, was den Urheber des gefälschten Videos als Quelle direkt diskreditieren würde, als wenn nur ein verkürztes und somit irreführendes Video produziert werden würde. Als Kompromiss zu Rinis Standpunkt kann man vorschlagen, dass -- wie bereits angesprochen -- mit Deepfakes nun ein Schlagwort entstanden ist, das wie „photoshoppen" bei Fotobearbeitung synonym für alle Formen der Videomanipulation unabhängig von der dahinter liegenden Technologie benutzt werden könnte.

Deepfakes werden in Zukunft zur Manipulation des öffentlichen Diskurses benutzt

Rini geht davon aus, dass Deepfakes in den kommenden Jahren von „böswilligen Aktueren" zur Manipulation des öffentlichen Diskurses benutzt werden würde²⁰. Um diese Behauptung zu überprüfen, muss man sich zunächst die Mechanismen von Desinformation vergegenwärtigen²¹. Laut Kurz und Rieger meint man damit „die strategische Beeinflussung der Weltsicht des Gegners durch eine geschickte Mischung aus Lügen, Halbwahrheiten und selektiver Hervorhebung von tatsächlichen Geschehnissen". Kernelement sei stets die Auswahl, Präsentation und Priorisierung von Nachrichten. Kurz und Rieger merken richtigerweise an, dass jedes Medium, das massenhaft verfügbar wurde, „umgehend für Zwecke der Beeinflussung" benutzt wurde. Daraus kann man folgern, dass Deepfakes keineswegs ein neues Phänomen sind, schließlich sind irreführende Videomanipulationen nichts Neues. Sie sind lediglich ein neues Werkzeug für „böswillige Akteure". Sicherlich kann man Rinis These daher als leicht alarmistisch betrachten, da sie zudem fast ausschließlich auf den US-amerikanischen Kontext eingeht. Laut einer Bertelsmann Studie gibt es dort eine immer stärkere Polarisierung²², was mit einem Vertrauensverlust in Institutionen wie Wissenschaft, Wirtschaft, Politik und vor allem Medien einhergeht. Die Auswirkungen von Desinformation (was Deepfakes als eines von vielen Mitteln benutzen kann) sind daher nicht direkt auf andere Länder wie die Schweiz oder Deutschland übertragbar.

Während den Recherchen für diesen Essay verbreitete sich auf Twitter ein Video, das sich alleine aufgrund des Inhalts, aber auch wegen der schlechten Qualität als Fälschung herausstellte. Im Video, das mittlerweile fast zwei Millionen Aufrufe hat, ist Bernie Sanders zu sehen, der sagt: „Any female born after 1993 can't cook. All they know is McDonald's, charge [their] phone, twerk, be bisexual, eat hot chip and lie."²³ Neben der Tatsache, dass Bernie Sanders wohl nie einen solchen Satz sagen würde, weist auch das mit dem Ton asynchrone Video auf eine offensichtliche Fälschung hin²⁴. Allerdings wirkt die Stimme täuschend echt wie die von Sanders. In den Antworten zum Tweet gibt es zwei wiederkehrende Themen. Einerseits wird über die zugrundeliegende Technik debattiert, also ob ein Stimmenimitator oder Methoden des Machine Learning verwendet wurden²⁵. Andererseits wird dennoch über den Inhalt des Tweets diskutiert. Dieses Ereignis zeigt, dass ein geschickt erstellter Cheapfake²⁶ völlig ausreicht, um für Konfusion zu sorgen. Laut dem IT-Sicherheitsexperten Thaddeus T. Grugq, der unter anderem zu den Themen Desinformation und Cybersicherheit beispielsweise in der New York Times oder Washington Post zitiert wurde und auch auf namhaften Sicherheitskonferenzen vorgetragen hat, argumentiert ebenfalls, dass Deepfakes keinerlei Vorteile gegenüber Cheapfakes besitzen²⁷.

Das Wissen über Deepfakes ist schlimmer als Videos die per Deepfake bearbeitet werden

Rinis vermutlich eindrucksvollste²⁸ These lautet, dass in der Gegenwart von Deepfakes sowie durch die wachsende öffentliche Aufmerksamkeit der epistemische Auffangmechanismus massiv gestört werden würde. Das bedrohe vor allem die passiv regulierende Funktion von Aufnahmen, weil beispielsweise Politiker sich weniger zur Ehrlichkeit verpflichtet fühlen könnten, da man jederzeit bei einem aufkommenden Skandal mit der Begründung, alle Aufnahmen seien Deepfakes, die Vorwürfe abstreiten könne.

Auch bei diesem Thema lohnt sich ein Blick zu Kurz und Rieger: In ihrem Buch „Cyberwar" zeigen sie im Kapitel „Desinformation und Einflussoperationen" unter der Zwischenüberschrift „Postmodernismus als Waffe"²⁹ einige interessante Mechanismen, die unter anderem in Trumps Wahlkampf eingesetzt wurden³⁰. Ein zentrales Element war nämlich die Diskreditierung des politischen Gegners, der nicht nur in Hillary Clinton, sondern auch in liberalen Medien gesehen wurde. Auch hieraus kann man folgern, dass es nicht Deepfakes braucht, um die öffentliche Wahrnehmung über bestimmte Medienhäuser herabzusetzen³¹.

Wenn man sich allerdings an die Debatte um Varoufakis' Mittelfinger erinnert, fällt auf, dass damals -- noch bevor Deepfakes einige Jahre später öffentlich wurden -- bereits von Videomanipulation die Rede war. Dass dies auch technisch schon möglich war zeigt der „gefälschte Fake" von Jan Böhmermann³². Wie bereits schon erwähnt kann man Deepfakes nun als Schlagwort begreifen, mit der jedwede Art von Videobearbeitung gemeint ist, da außer der zugrundeliegenden Technologie nur marginale Unterschiede zu herkömmlichen Methoden bestehen. Der neuartige Begriff könnte eine ähnliche Stellung wie „Fake News" oder „Filterblase" erhalten, mit denen in der Öffentlichkeit komplexe Zusammenhänge auf ein Wort reduziert werden, ohne dass die Mechanismen verstanden wurden. Das Beispiel „Filterblase" zeigt, dass sich sogar ein nicht nachzuweisendes Phänomen aufgrund des griffigen Ausdrucks durchgesetzt hat³³.

Fazit: Ein bereits bekanntes Phänomen unter reißerischem Namen

Sowohl Audio- als auch Videoaufnahmen haben eine außergewöhnliche Stellung im öffentlichen Diskurs. Oft werden sie -- aus meiner Sicht zu unrecht -- unhinterfragt als wahr angenommen. Der „VarouFake" zeigt die Probleme in zweierlei Hinsicht: Einerseits wurde das Original aus dem Kontext gerissen und somit sinnentstellend benutzt. Andererseits zeigt anschließende Diskussion um den „gefälschten Fake" von Böhmermann, dass Manipulationen von Videos nicht erst seit Deepfakes möglich sind. Das zeigt, dass wir möglicherweise zu stark auf Aufnahmen vertraut haben.

Obwohl Rini gute Argumente für den Unterschied zwischen Fotomanipulation und Deepfakes darlegt, deuten viele Hinweise darauf, dass Deepfakes keine neuartige Innovation im Bereich Desinformation sind. Oft reichen sogenannte Cheapfakes oder Shallowfakes um für Konfusion beim Rezipienten zu sorgen, was heutzutage oft das Ziel solcher Strategien ist. Deepfakes können zwar einer „Fake News" mehr Authentizität verleihen, aber die Wirksamkeit hängt auch maßgeblich davon ab, ob sie auf einen fruchtbaren Boden treffen, beispielsweise auf ein Land mit starker Polarisierung.

Abschließend kann man noch auf Bereiche hinweisen, in denen Deepfakes wahrscheinlicher zu einer Herausforderung werden können als im öffentlichen Diskurs. Das betrifft neben Social Engineering³⁴ und Pornofilmen von Privatpersonen auch Lokalpolitiker, die zu wenig Medienaufmerksamkeit erfahren werden, um Anschuldigungen auszuräumen.