Deepfakes: Wie ein Porno-Hype die Kunstwelt revolutioniert - Magnet

08.09.19 – Christoph Benkeser

Mit Fälschungen auf Fälschungen hinweisen, das ist Deepfake in der Kunst. Hier ein paar Beispiele; und warum das am Ende unsere Rettung sein könnte.

Am 25. Oktober 2018 steckt das Auktionshaus Christie’s in New York ein Gemälde in einen goldenen Rahmen und verkauft es anschließend um fast eine halbe Million Dollar. Nicht ungewöhnlich für ein Unternehmen, das auch schon einen verchromten Blechhasen für 90 Millionen Dollar vermarktet, aber genug, um die Kunstwelt explodieren zu lassen. Manche sprechen von Einfallslosigkeit, andere von einer ernsthaften Bedrohung. In Diskussionen fällt das Wort Paradigmenwechsel.

Der Grund: Das Werk mit dem Titel „Portrait of Edmond Belamy“ stammt nicht von einem*r bekannten Künstler*in, sondern von einer Maschine. Genauer gesagt von einer künstlichen Intelligenz. Künstliche Intelligenzen sind in der Kunstwelt an sich nichts Neues. Die jüngsten Beispiele sind allerdings nicht nur fantastisch, surrealistisch und dadaistisch – sie spielen auch bewusst mit der Wahrheit. Die Rede ist von Deepfakes.

Der Begriff Deepfake tauchte erstmals 2017 in einem Forum der Community-Plattform Reddit auf. Ein User produzierte Videos, in denen er die Gesichter von Pornostars mit denen von Scarlett Johansson, Taylor Swift und der Wonder Woman-Darstellerin Gal Gadot austauschte. Und zwar so überzeugend, dass immer mehr (männliche) User ihre Promi-Porno-Fantasien auf die Plattform hochladeten. Hier wurde VICE auf das Phänomen aufmerksam und brachte es als erstes Medium in den Mainstream.

Die Software, mit der man fast automatisch und ohne große Programmierkenntnisse einen Deepfake produzieren konnte, landete daraufhin als Open-Source-Datei im Netz. Medien berichteten. Reddit sperrte den Kanal. Aber die Technologie war geboren. Und geiferte als Krake mit unsichtbaren Tentakeln längst nach anderen Plattformen.

Deepfake-Obama und das Ende der Demokratie

Heute sind Deepfakes überall. Barack Obama beschimpft Donald Trump in einem Video als Vollidioten, Mark Zuckerberg labert im Zombie-Modus von der uneingeschränkten Kontrolle der Zukunft durch gestohlene Daten, und Xinhua, die chinesische Nachrichtenbehörde, stellt einen neuen Nachrichtenmoderator vor, der wie ein Mensch aussieht, aber keiner ist.

© New China TV / YouTube

Denn bei Deepfakes handelt es sich um Videos oder Bilder, die es gibt, obwohl sie nie passiert sind. Es sind in Pixel und Bewegtbilder übertragene Fake News, die das Gesicht einer Person mit dem einer anderen austauschen. Das funktioniert mittlerweile so gut, dass man Deepfakes kaum mehr vom Original unterscheiden kann. Alles, was man braucht, um zum Beispiel das Gesicht von Steve Buscemi auf das von Jennifer Lawrence zu kleistern, ist eine große Anzahl an Bildern beider Personen, einen Laptop und ein paar Zeilen Code, die man sich aus dem Internet zusammenkopiert. Schon entstehen Bilder, die es eigentlich nicht geben sollte.

Das sorgt für moralische Bedenken, die in der Technologie das Ende der Demokratie oder gleich der ganzen Welt erkennen. Irgendwann, so die Befürchtung, könnte die Technologie an einen Punkt gelangen, an dem wir nicht mehr in der Lage sind, Realität und Fiktion zu unterscheiden. Es fühlt sich an, als würden wir in einem gepanzerten Daten-SUV mit 140 Sachen auf dem von Fakes gepflasterten Weg hin zur kompletten Demontage unseres Realitätssinns rasen – ohne zu begreifen, dass wir überhaupt in der Kiste sitzen. Klingt besorgniserregend. Aber es gibt Hoffnung.

Die Kunstwelt wird zum Deepfake-Eldorado

Was uns in den Medien erreicht, ist nur die virale Spitze des Eisberges. Außerhalb des Mainstreams erleben Deepfakes nämlich gerade einen Hype in der Kunstwelt. Das ist auch darauf zurückzuführen, dass sich immer mehr Kunstschaffende und Computerspezialist*innen mit Künstlicher Intelligenz befassen. Die neue Technologie, die für Deepfake-Videos genutzt wird, eröffnet auch in der Kunst viele neue Felder und hat nichts mit bösartigen Absichten zu tun.

Im Gegenteil: Viele Künstlerinnen und Künstler nutzen die neue Technologie als Werkzeug, mit dem sie auf potenzielle Gefahren hinweisen wollen. Die Fälschung soll mit ihren eigenen Mitteln geschlagen werden. Erscheint paradox, hat aber durchaus Sinn.

Anna Ridler

Anna Ridler, artist and researcher

Ich interessiere mich für die Idee, wie Maschinen Kunst und Computerkreativität hervorbringen können.

Eine Verfechterin der positiven Möglichkeiten von Künstlicher Intelligenz ist Anna Ridler. Die britische Künstlerin gilt als Pionierin im Feld der Deepfake-Art und stellt ihre Arbeiten am Haus der elektronischen Künste in Basel, im Londoner Barbican Centre und bei der Ars Electronica in Linz aus. „Ich interessiere mich für die Idee, wie Maschinen Kunst und Computerkreativität hervorbringen können – insbesondere in Bezug auf Malerei und Zeichnung, die wir seit langem als wesentliche menschliche Fähigkeiten ansehen“, sagt Ridler. Algorithmen eröffnen neue Möglichkeiten, die diese Fähigkeiten nicht nur nachahmen, sondern auch weiterentwickeln können. Sie möchte herausfinden, wie sich die praktische Anwendung auf den Kunstbereich auswirkt.

Das geht auch, ohne dass man dafür Gesichter auf andere Köpfe verpflanzt. Für die Arbeit „Mosaic Virus“ hat Ridler über 20.000 Tulpen fotografiert, katalogisiert und ihnen am Bildschirm Leben eingehaucht. Entscheidend für einen überzeugenden Deepfake, erklärt sie, sei die Verwendung eines neuronalen Netzwerks, dem Generative Adversarial Network (GAN). Dieses besteht aus zwei Teilen. Dem Generator und dem Diskriminator. Ridler lädt ihre Fotografien in das System. Der Generator erstellt daraus neue Bilder und sendet sie an den Diskriminator, der sie im Vergleich zu den Originalen bewertet. Es entsteht ein Feedback-Loop. Der Generator erzeugt Bilder, der Diskriminator bewertet sie – immer und immer wieder. Die Bilder des Generators werden so laufend besser – bis sie den Diskriminator davon überzeugen, dass es sich beim falschen Bild um ein echtes handelt.

Anna Ridler

© Anna Ridler

Deepfakes schielen mit Tulpen und Elvis auf die Avantgarde

Der Algorithmus lernt, wie eine Tulpe aussieht. Er registriert ihren Farbton, die Blütenblätter, die unterschiedlichen Formen. Und er bastelt daraus ein Bild, das dem Original irgendwann täuschend echt sieht. „Ich benutze Künstliche Intelligenz nicht, um sie zu kritisieren“, sagt Ridler, „sondern um meine Kunst in neue Bereiche zu führen, die ohne der Technologie nicht möglich wären.“ Dafür müsse man die Technologie eben auch greifbar machen. „Wir dürfen sie nicht hinter kryptischen Codes verstecken. Indem wir zeigen, was damit alles möglich ist, kann man Menschen außerhalb von Wissenschaft und Kunst eine Möglichkeit bieten, sich mit maschinellem Lernen zu befassen – und mit den moralischen und ethischen Debatten, die damit einhergehen.“

Diese Debatten sind auch welche, die Libby Heaney aufgreift. Die Britin promovierte 2008 in Quantenphysik und weiß, dass technologische Innovationen auch Dystopie-Prognosen mit sich bringen. In ihrer Arbeit als Künstlerin will sie deshalb auf negative Auswirkungen von Fake News hinweisen, ohne die Leute in Panik zu versetzen. Schließlich komme es immer darauf an, wer die Technologie nutzt und wie man sie einsetzt. „Ich bin daran interessiert, mit Deepfakes neue Realitäten zu konstruieren und alternative Geschichten vorzuschlagen. Deepfakes sind mein Werkzeug. Ich kann mit ihnen in Videos verschiedene Charaktere spielen, Genderrollen durcheinander bringen und Identitäten verwischen.“

Libby Heaney

Libby Heaney, artist, researcher, quantum physicist

Die Zuschauer*innen sehen das Video und glauben, die Schmalz-Tolle im weißen Jumpsuit zu erkennen, bemerken dann aber Unterschiede – das veränderte Gesicht, den Frauenkörper.

In einem ihrer Videos verwandelt sich Heaney in Elvis und der King of Rock’n’Roll verwandelt sich in die Künstlerin. „Die Zuschauer*innen sehen das Video und glauben, die Schmalz-Tolle im weißen Jumpsuit zu erkennen, bemerken dann aber Unterschiede – das veränderte Gesicht, den Frauenkörper“, erklärt Heaney. „Da ich eine andere Gesichtsstruktur habe als Elvis, gibt es eine subtile Verwischung der Identität, eine Mischung aus mir und ihm.“ Die Arbeit hinterfrage den Begriff des männlichen Genies in der Popkultur und thematisiere die Geschlechterrollen in der Musikindustrie. „Es konfrontiert das Publikum mit einer überarbeiteten Geschichte, in der der King of Rock’n’Roll eine Frau war.“

Heaney trifft mit ihrer Arbeit einen Nerv. Sie stellt im Tate Modern in London aus, zeigt ihre Deepfake-Art in New York, Peru und Malta. Erst kürzlich lud sie das Sónar-D-Festival nach Barcelona ein, um über Kreativität im Zeitalter des Quantencomputers zu sprechen. Und immer stellt man ihr die gleiche Frage: Welche Auswirkungen werden Deepfakes in Zukunft auf unsere Gesellschaft haben?

Diese Frage bestätigt einen Trend: Deepfakes kommen nicht nur in der Kunstwelt an. Sie schwappen längst auch auf den Mainstream über. Die Arbeiten von Heaney, Ridler und anderen Künstler*innen in diesem Bereich hängen nicht nur in klinisch-weißen Museumswänden, sondern bespielen große Festivals wie das Art-AI-Festival in Leicester, das Impakt Festival in den Niederlanden oder das Ars Electronica Festival, das in diesem Jahr über 40 verschiedene Werke im Kontext „Understanding AI“ nach Linz bringt. An gleicher Stelle, in Österreichs „Museum der Zukunft“, eröffnete mit „Compass – Navigating the Future“ im Mai 2019 sogar eine Dauerausstellung zum Thema Künstliche Intelligenz. Und für die neu geschaffene Prix-Ars-Electronica-Kategorie „Artificial Intelligence & Life Art“, eine Art Oscar-Auszeichnung für Medienkunst, gab es über 840 Einreichungen.

Gerfried Stocker

Gerfried Stocker, Director at Ars Electronica Linz

Wir müssen uns die technologischen Entwicklungen kritisch ansehen, nicht weil sie Dämonen sind, die wir nicht verstehen oder vor denen wir uns fürchten, sondern wegen des Einflusses, den sie auf die Welt und Gesellschaft haben werden.

„Wir müssen uns die technologischen Entwicklungen kritisch ansehen, nicht weil sie Dämonen sind, die wir nicht verstehen oder vor denen wir uns fürchten, sondern wegen des Einflusses, den sie auf die Welt und Gesellschaft haben werden“, sagt der künstlerische Leiter des Ars Electronica Festivals, Gerfried Stocker. Klar ist: Deepfakes werden immer besser, bis sich Fälschungen nicht mehr vom Original unterscheiden lassen. Die Mehrheit der Menschen werden die Technologie dahinter zwar nie vollständig verstehen, aber das alleine sollte uns nicht in Panik versetzen, sondern dazu motivieren, uns mit ihr auf empowernde Art auseinanderzusetzen – und uns dort täuschen zu lassen, wo sie keinen Schaden anrichtet, aber trotzdem zum Nachdenken über Rollenbilder und das Menschsein selbst anregt: in der Kunst. Am besten von einem non-binären Elvis, wachsenden Tulpen oder eben von Obama, der Trump als Vollidioten beschimpft.

Christoph × Magnet

Christoph Benkeser

Christoph Benkeser krachte aus dem Westen Österreichs nach Wien, studierte irgendwas mit Medien und schreibt für Magazine wie Spex, Groove, Noisey und HHV über Popkultur und Zukunftsthemen.