13.03.20 – Christoph Hubatschke

Wie Roboter und künstliche Intelligenz unsere Welt verändern.

Ob Terminator, Ex Machina oder Westworld – Roboter und ihr vermeintlicher Drang, die Menschheit zu unterwerfen, stehen derzeit wieder hoch im Kurs. Aber während Sci-Fi-Szenarien schon seit Jahrzehnten das Bild vom gefährlichen, maschinellen Übermenschen malen, geht es in der gegenwärtigen Robotik-Forschung noch um ganz banale Grundsatzfragen: Wie steht man auf, ohne umzufallen, wie bewegt man sich, ohne alles umzuwerfen, und wie interagiert man mit Menschen, ohne sie mit vorgefertigten Antwort-Loops zu langweilen oder mit schlechter Leistung zu frustrieren.

Die Borg, Star Trek: The Next Generation

We are the Borg. Your biological and technological distinctiveness will be added to our own. Resistance is futile.

Weit weniger dramatisch als es die Schlagzeilen und Serien vermuten lassen. Umwälzungen gibt es natürlich trotzdem. Und sie sind enorm, sowohl ökonomisch als auch gesellschaftlich. Oft sind es allerdings weniger Roboter mit einem physischen Maschinenkörper, die komplexe Tätigkeiten von Arbeitenden übernehmen, als vielmehr AI-Systeme. Vom Such-Algorithmus auf YouTube über die individualisierten Werbeeinschaltungen im eigenen Social-Media Feed, von der mit Big Data berechneten Kreditwürdigkeit bis hin zu Programmen, die die Brauchbarkeit von Arbeitskräften für den Arbeitsmarkt berechnen: Zunehmend steuern Algorithmen, was wir sehen und wie wir gesehen werden. Anders als tatsächliche Roboter sind diese künstlichen Intelligenzen meist unsichtbar – und ihre Funktionsweisen daher häufig intransparent.

What’s Intelligence, Stupid?

Die eigentliche Frage ist aber, sowohl für echte Science-Fiction-Fans als auch in der Forschung, eine andere als jene nach Robotern oder AIs, nämlich: Handelt es sich dabei überhaupt um Intelligenz? Der französische Philosoph und Kultursoziologe Jean Baudrillard behauptete schon in den 1990ern, dass künstliche Intelligenzen deswegen nicht intelligent seien, weil sie zu wenig künstlich wären. Intelligenz ist für Baudrillard ein kreativer und damit schaffender, künstlerischer Prozess, während AI-Systeme programmiert sind, lediglich ihrer „Natur“/dem Gegebenen zu folgen und Dinge zu erkennen oder zu optimieren. Intelligenz zeigt sich für ihn nicht in der Analyse von Daten und dem Finden von Mustern.

Bits & Biases: Vorurteile bei Maschinen

In der Suche nach Mustern reproduzieren Algorithmen nämlich häufig nur Vorurteile und Ungerechtigkeiten – auf Englisch und im 21. Jahrhundert auch „biases“ genannt – aus der bestehenden Welt, in der sie eben programmiert wurden, und zementieren so nur weiter gesellschaftliche Ungleichheiten. Ob Gesichtserkennungs-Software, die Gesichter von nicht-weißen Menschen schwerer erkennen, oder Algorithmen, die Bewerbungen vorsortieren und dabei Frauen weniger oft für Technologie-Jobs oder Führungspositionen vorschlagen – die Beispiele problematischer AI-Systeme sind zahlreich. Das AI Now Institute hat in seinem Diskriminierungsbericht die diversen sexistischen, rassistischen, klassistischen und ableistischen Biases in aktuellen Algorithmen aufgelistet und Empfehlungen dazu ausgearbeitet. Den Report könnt ihr hier lesen.

Unsere Maschinen sind also keinesfalls neutral oder objektiv. Egal, ob wir sie mit Körper bauen oder nicht. Trotzdem ist nicht die Maschine per se problematisch oder gefährlich. Hinterfragt werden muss vielmehr der Drang, überall und für alles Maschinen einsetzen zu wollen. Denn nicht alles, was „smart“ gemacht wird, muss auch wirklich intelligent sein. Wäre es nicht sinnvoller, statt etliche Millionen Euro in die Entwicklung von Pflegerobotern zu stecken, jene Personen, die derzeit diese Arbeit verrichten – meistens migrantische Frauen –, besser zu bezahlen? Muss ein Roboter wirklich ein Geschlecht haben? Ist es notwendig, dass Roboter vor allem dann weibliche Merkmale aufweisen, wenn sie für Pflege, Kinder oder zur sexuellen Befriedigung designt werden? Für wen wird hier gebaut?

Bender, Futurama

My story is a lot like yours, only more interesting 'cause it involves robots.

Zudem zeigen neueste Untersuchungen, dass Machine-Learning-Prozesse – vor allem das aufwändige „Deep Learning“ – mit sehr hohem Energieaufwand verbunden sind. AI ist also nicht automatisch sauber, weil digital, sondern trotz Körperlosigkeit extrem ressourcenaufwändig und oft unökologisch.

Genau deshalb ist es so wichtig, über diese Technologien zu diskutieren, statt ihre Entwicklung und Produktion in jede Richtung wildwachsen zu lassen. Es gilt immerhin zu verhandeln, welche Menschen- und Rollenbilder (re-)produziert und für nachfolgende Generationen verfestigt werden. Welche moralischen Gesetze diesen Maschinen einprogrammiert werden könnten, ist die eine Sache. Eine ganz andere Sache ist, welche Maschinen überhaupt zu welchem Zweck entwickelt und wo für wen eingesetzt werden sollen. Das ist keine Frage der Technik, sondern eine Frage der Demokratie.

Zwischen Sci-fi und moderner Sklaverei

Puppet Master, Ghost in the Shell

All things change in a dynamic environment. Your effort to remain what you are is what limits you.

Vielleicht kann hier Science-Fiction helfen: In Serien wie Westworld geht es schon nicht mehr darum, was Roboter können, sondern darum, was die absolute Macht über menschenähnliche Wesen mit uns Menschen selbst macht – und welche Menschen über diese Macht verfügen.

Auch Star Wars sollte in seiner Darstellung von Robotern ein Kommentar auf Sklaverei sein und thematisiert am Rande, wie – und an welcher Stelle – sich diese neue Klasse an Androiden und Humanoiden in unsere Gesellschaft einfügen würde. Im Computerspiel Detroid: Become Human konnte man gleich selbst in die Rolle verschiedener Androiden schlüpfen und entscheiden, ob und wie man sich für die Roboterrechte einsetzt, und so brutale Parallelen zu verschiedenen Bürgerrechtsbewegungen und Befreiungsaufständen erleben. Und das Cyberpunk-Meisterwerk Ghost in the Shell brach überhaupt mit den vermeintlich klaren Kategorien von Mensch und Maschine und erkundete die mannigfaltigen hybriden Zwischenstufen in einer cyborgisierten Gesellschaft.

Vielleicht sollten wir uns also weniger damit beschäftigen, ob und in welcher Form Roboter uns Menschen unterwerfen könnten, und vielmehr hinterfragen, warum sich so viele Menschen Roboter als eine unterworfene Klasse herbeisehnen.

Im MAGNET Tech-Talk beleuchten wir zusammen mit Fachleuten, wie problematisch die Wechselwirkungen zwischen Mensch und Maschine wirklich sind. Der ganze Talk hier nachzusehen:

Christoph × Magnet

Christoph Hubatschke

Christoph ist Philosoph und Politikwissenschaftler an der Universität Wien und beschäftigt sich mit politischer Technikphilosophie und neuen Technologien. Er ist Gründungsmitglied der transdisziplinären Forschungsgruppe H.A.U.S. (Humanoid Robots in Architecture and Urban Spaces) an der Technischen Universität Wien.

Beitrag
teilen
URL in die Zwischenablage kopiert
Beitrag
teilen
URL in die Zwischenablage kopiert