Nerds retten die Welt

Jutta Weber forscht zu Technik- und Medientheorie, Wissenschafts- und Technikforschung, Cultural Media Studies Surveillance, Military and Critical Security Studies, feministischer Theorie, Medien und Alltagskultur, Technik und Gender.

Guten Morgen, Frau Weber, haben Sie sich heute schon um den Zustand der Welt gesorgt?

Natürlich, Sie nicht?

Sorge ist mein zweiter Vorname. Kurz bin ich nur beruhigt, weil bereits Heldin Joan Didion Ende der 1960er-Jahre vom Ende der Welt ausging. Es gibt sie aber noch. Na ja, ein wenig. Können Sie Ihren Beruf in drei Sätzen zusammenfassen?

Ich erforsche das Verhältnis von Technik und Gesellschaft, vor allem mit Blick auf die Informatik, künstliche Intelligenz und Robotik.

Ich analysiere Ungleichheiten, Asymmetrien, Machtverhältnisse und Missstände, zeige aber auch alternative Gestaltungsmöglichkeiten auf. Ich arbeite zum Beispiel auf die wirkliche Beteiligung der Gesellschaft an der Ausgestaltung von Technik hin – aber das ist noch ein langer Weg.

Die Gesellschaft, also die Masse, die sich an irgendetwas beteiligt. Klingt immer gut. Aber will die Masse sich beteiligen oder eher ihre Ruhe und ihre Rente? In Einfamilienhäusern sitzen, nicht so viel Veränderung und Fortschritt. Na ja, oder sagen wir Fortschritt, wenn das Fernsehbild besser und die Autos billiger werden. Wie kann man die Mehrheit also für technische Probleme interessieren?

Zum einen, indem wir neue Wege der Technikgestaltung finden, bei denen diejenigen einbezogen werden, für die die Technik auch gestaltet wird. Das klingt banal, findet aber bis heute in den wenigsten Fällen statt. Da gibt es etwa schon viele Jahrzehnte die Feldforschung über Participatory Design, damit hat man in Skandinavien sehr gute Erfahrungen gemacht. Mit der Durchsetzung disruptiver Technologien und – noch problematischer –kapitalistischer Geschäftsmodelle, die auf – oft sinnfreie – Innovation zur Befriedigung der Shareholder setzen, wird Technikgestaltung, die nach den Bedürfnissen und Interessen der Nutzerinnen fragt, immer schwieriger.

Hier bräuchte es auch den Willen der Politik, Technik für die Bürger zu entwickeln und nicht nur auf Absatzmärkte zu schielen. Der fehlt aber häufig. Und wir bräuchten eine technopolitische Bildung, die Menschen – Kindern, Jugendlichen und Erwachsenen – vermittelt, dass Technik nicht nur Kultur, sondern auch immer Politik ist. Es gibt keine wertfreie Technik. Denn Technik greift in Wahrnehmung, Kommunikation, Sozialität – also in die Formen und Weisen unseres Zusammenlebens – ein.

Ich bin da pessimistisch, wie immer. Ich bezweifle, ob tiefgreifende technische Bildung – also alles, was über die Benutzung sozialer Medien, die hervorragende Manipulationsinstrumente sind, hinausgeht – im Interesse eines Staates ist. Wenn grosse Teile der Bevölkerung ein weitgehendes digitales Wissen hätten, kämen sie darauf, zum Beispiel Online-Patientendatenbanken seltsam zu finden.

Gerade im 21. Jahrhundert, in der die Technik zur Superstruktur der Gesell­schaft geworden ist, ist es unabdingbar, nicht nur einzelne Software-Anwen­dun­gen bedienen zu können wie etwa Powerpoint oder Facebook, wie das heute in der Schule gelehrt wird. Und statt proprietäre Systeme wie Apple oder Microsoft zu unterstützen, gälte es, Open-Source-basierte Software zu promoten, die Menschen nicht in geschlossene Systeme zwingt, welche primär kommerzielle Interessen verfolgen und nicht primär daten­schutz­orientiert sind.

Vor allem – und daran anschliessend – geht es darum, grob die Logik und die Strukturen, Dynamiken und Machtdimensionen von Technik und ihre Folgen verstehen zu können. Aber die Politik hat sich in den vergangenen Jahrzehnten wenig Mühe gegeben, dieses Wissen systematisch in die Bildung zu integrieren. Wie ich meine Daten schütze, indem ich meinen Rechner sinnvoll konfiguriere, lerne ich noch immer nicht in der Schule, sondern vom Tactical Tech Collective in Berlin oder in einem Hackerspace.

Vielleicht weil ein wirksamer Schutz gegen Überwachung nicht im Interesse eines Staatsapparats ist? Weil Massenverschlüsselung zu knacken extrem kostenintensiv wäre. Nun – Sie forschen in elf Gebieten, die sich natürlich wechselseitig beeinflussen. Aber irgendwann und mit etwas hat Ihre heutige Tätigkeit begonnen, womit?

Meine Kernfächer waren ursprünglich Erkenntnis- und Wissenschafts­theorie, Technikphilosophie und politische sowie feministische Theorie. Ich schrieb meine Dissertation über Naturkonzepte – etwa bei Derrida und Luhmann – und merkte sehr schnell, dass die eigentlich wichtigen Diskurse gar nicht mehr in der Philosophie, sondern in den Technowissenschaften stattfinden. Das war der Anstoss, um mich intensiv mit den Technosciences selbst zu befassen. Artificial Intelligence, Artificial Life, Robotik.

Nach der primär theoretisch ausgerichteten Dissertation habe ich ein auch empirisch ausgerichtetes Projekt zu situierter/verkörperter Robotik mit vielen Expertinnen-Interviews gemacht. Da musste ich viele Klischees über Technowissenschaftler hinter mir lassen. Gerade in den jungen, neuen Feldern der Technowissenschaften sind diese oft interdisziplinär ausgerichtet. So traf ich auf Forscherinnen, die ursprünglich aus der Philo­sophie, Biologie, Physik oder Tanztherapie kamen.

Danach hat mich die Forschung im «Bauch des Monsters Technoscience», wie die Biologin, Philosophin und Technikforscherin Donna Haraway sagt, nicht mehr losgelassen. Und genau diese Forscherin war auch wesentlicher Teil dieser Wende. Für mich gibt es nur wenige Theoretiker, die so klug, unkonven­tio­nell und neugierig sind. Sie hat schon in den 1980er-Jahren nicht nur über die zunehmende Fusionierung von Mensch und Maschine, sondern über die Etablierung einer «New World Order» geschrieben, in der Wissenschaft, Technik, Ökonomie, Politik sich untrennbar verweben. Sie ist eine der wildesten und spannendsten Denkerinnen überhaupt. Und die Science and Technology Studies wurden meine Heimat – weniger im deutschsprachigen Raum, wo eine traditionelle, männlich konnotierte Techniksoziologie dominiert, sondern mehr die angloamerikanische Tradition der Techno­science Studies, die interdisziplinärer und bunter ist. Aber wir holen in Deutschland langsam auf.

Interessant ist, dass es zu einem von Haraways Schlüsselwerken, dem «Cyborg Manifesto», nicht einmal einen deutschsprachigen Wikipedia-Eintrag gibt. So weit zur Sichtbarkeit von Frauen in den Wissenschaften.

Drei Schwerpunkte Ihrer umfangreichen Forschungsarbeit würde ich gerne in aller gegebenen Oberflächlichkeit anreissen. Ich fange mit dem Gebiet der automatisierten Waffen an. Wissen Sie, was in Kombination von künstlicher Intelligenz, Biometrik und automatisierten Waffen bereits existiert?

Im Bereich des Militärischen lässt sich generell schlecht sagen, wie der Stand der Forschung genau aussieht. Aber was zumindest bald machbar sein könnte, ist die Kombination von autonomen, «selbst» steuernden Drohnen mit biometrischen Erkennungssystemen. Die schlimmsten möglichen Szenarien wurden auf anschauliche Weise von der NGO «Stop Autonomous Weapons» im Videoclip «Slaughterbots» anschaulich gemacht

Dort geht es um Minidrohnen mit einer kleinen Sprengstoffladung, die im Schwarm agieren können und mithilfe von biometrischer Gesichts­erkennung gezielt Menschen verfolgen und töten.

Wie problematisch biometrische Erkennung in Kombination mit künstlicher Intelligenz ist, lässt sich auch am Widerstand gegen die Verbreitung von Software für Gesichtserkennung bei der Polizei, Geheimdiensten und beim Militär erkennen. Sie eröffnet unglaubliche Möglichkeiten der Überwachung, Einschüchterung und Verfolgung. Und sie hat ein grosses Potenzial, Unschuldige zu stigmatisieren, da die Systeme natürlich mit Wahrschein­lich­keiten arbeiten und niemals präzise sein werden.

Funktionieren Drohnen bereits ohne menschliches Zutun?

Wir leben in Mensch-Maschine-Assemblagen. Wirklich autonomes Handeln von Mensch oder Maschine ist Illusion. Auch wenn Verantwortlichkeit und Macht unterschiedlich verteilt ist. Und Technik ist auch nicht so smart, wie es uns die Waffenschmieden gerne einreden wollen. Aber auch vermeintlich oder partiell autonome Waffen können grosses Unheil anrichten.

Es gibt bereits Versuche mit Polizeirobotern, die von künstlicher Intelligenz angetrieben werden. Diese werden sicher im nächsten Schritt mit Waffen ausgestattet. Eine interessante Idee, die Entwicklung neuer automatisierter Waffensysteme im Zusammenhang mit der Bekämpfung von Unruhen und ausserparlamentarischen Aktionen, in Zeiten, da immer mehr Autokratien entstehen und Menschen aufgrund der Erderwärmung, die grosse Gebiete unbewohnbar macht, auf der Flucht sind.

Nicht nur Erderwärmung. Armut, Arbeitslosigkeit, Hunger, Tyrannei, Postdemokratie usw. Schon im Januar 2003 hat der damalige EU-Beauftragte für Aussen- und Sicherheitspolitik, Javier Solana, eine Sicher­heits­doktrin formuliert, in der steht, dass sich die EU gegen die Flüchtlinge rüsten muss, aber auch gegen die eigenen Aufständischen, weil die Kluft zwischen Arm und Reich immer weiter aufgehen wird.

Ein Hoch auf die Märkte mit ihrer wunderbaren selbstzerstörerischen Todessehnsucht. Die USA präsentieren ihre neuartigen Waffen ja gerne zum Zweck der Abschreckung. Gibt es etwas, das ich noch nicht kenne?

«Slaughterbots»?

Dass Boston Dynamics verkauft wurde, lässt den Schluss zu, dass deren Roboter nicht so bahnbrechend sind, wie sie wirken?

Eher, dass Google zum einen die Idee des disruptiven Take-overs von Unternehmen weiter vorantreibt und auf interessante Fusionen und Entwicklungen von neuen Anwendungen in der Zukunft spekuliert – auch wenn sie sie wohl aufgrund interner Schwierigkeiten schon wieder weiter­verkauft haben. Gleichwohl entsteht mit der marktdominierenden Stellung von Google, Microsoft und Apple eine erschreckende Konzentration von Wissen und Macht.

Wie erfolgversprechend ist ein Roboter-Ethikabkommen, das alle Staaten unterschreiben müssten und an dem gerade – auch von Ihnen – gearbeitet wird?

Abrüstungsabkommen und Waffenverbote wurden nie von allen Staaten unterschrieben. Das gilt auch bezüglich Landminen oder Clusterbomben. Aber wenn es einen breiten Konsens gibt, zeigt es Wirkung. Es gibt nicht nur eine realpolitische, sondern auch eine symbolische Dimension.

Sie forschen über Katastrophenszenarien, die technisch möglich, aber dennoch unwahrscheinlich sind – sogenannte Wild Cards. Zum Beispiel erwähnen sie KI-gesteuerte Insektenschwärme.

In meinem Paper habe ich mich eher ein wenig über unrealistische Szenarien wie die erwähnten Insektenschwärme lustig gemacht. Es ging mir darum, aufzuzeigen, dass das sich zunehmend ausbreitende Szenario-Denken hoch­problematisch ist – nicht zuletzt, wenn nur noch mit schwammigen Possibi­litäten jongliert wird, also nicht mit Wahrscheinlichkeiten, sondern mit wilden, unrealistischen Spekulationen darüber, was theoretisch alles Schreckliches passieren könnte. Das treibt dann eine Spirale der Aufrüstung im Bereich äussere und innere Sicherheit an – aber auch die Verunsicherung der Bevölkerung.

Wir leben in einem der sichersten Länder der Welt, sind aber geradezu manisch damit befasst, Sicherheit herzustellen. Doch dabei geht es allein um technisch vermittelte Sicherheit: Technosecurity. Die soziale Sicherheit – Rente, Arbeit, Gesundheitssystem – wurde in den letzten Jahrzehnten neoliberaler Herrschaft immer weiter abgebaut. Würden wir Letztere wieder herstellen und auf militärische Interventionen im Ausland verzichten, wie es das Grundgesetz vorschreibt, müssten wir uns nicht so sehr mit Bedrohungs­szenarien befassen.

Apropos vor der Haustür: Gibt es Katastrophenszenarien, die Sie besonders schätzen?

Ich forsche nicht zu Katastrophenszenarien allgemein. Ich mache mir eher Gedanken darüber, warum sie als Gedankenspiel, Hollywoodvision usw. immer attraktiver werden. Als wären wir nicht mehr in der Lage, eine positive Zukunft zu imaginieren. Deshalb lese ich dann alternative, feministische Science-Fiction. Es gibt tolle klassische Werke wie Ursula Le Guins «Die linke Hand der Dunkelheit» oder die «Xenogenesis»-Trilogie von Octavia Butler, genauso wie Amy Thomsons «Through Alien Eyes». Sie reflektieren die Schwierigkeiten und Potenziale der Begegnung mit «anderen Anderen»: mit vielfältigen Geschlechtern, anderen Spezies usw. Geschichten, die heraus­fordern, gerade auch in Zeiten grassierenden Rassismus. Und da gibt es neuere Autorinnen wie Monica Byrnes «The Girl in the Road». Tricia Sullivans preisgekröntes «Maul» oder die «Lagune» der Nigerianerin und US-Amerikanerin Nnedi Okorafor.

Wenn wir gerade von Science-Fiction reden: 2008 haben Sie – zusammen mit Kolleginnen und Kollegen – ein EU-Papier zur Regulierung autonomer Waffensysteme erstellt, als noch niemand von Drohnen redete. Das Papier blieb ohne jede Resonanz. Haben Sie die Hoffnung, die Regierung beraten zu können, aufgegeben?

Politiker sind sehr von – autonomen – Drohnen angetan, weil sie die Lösung von Dilemmata versprechen, wobei sie diese nicht halten. Darüber hinaus erlebe ich häufig, dass Politikerinnen beratungsresistent sind und sich zudem immer seltener für demokratische Grundrechte wie Asylrecht, Genfer Konvention, Datenschutz usw. einsetzen.

Aber hier gibt es nicht nur in der Politik ein Problem. Ich habe 2008/2009 in enger Abstimmung mit einer Redaktorin an einem Artikel über Drohnen gearbeitet, als noch niemand in Europa oder den USA darüber sprach. Er wurde eine halbe Stunde vor Drucklegung vom Chefredaktor rausgezogen. «Die Zeit» sagte mir 2009, dass ihre Leserschaft an so finsteren Themen nicht interessiert sei. Das änderte sich natürlich, als das Thema 2010 in den USA ein grosser Hype wurde. Aber die Presse ist oft ängstlich oder schielt auf Konsens und Absatzzahlen.

Wenn nicht die Politik, die EU, die Regierungen – wer soll die Entwicklung zur autonomen Aufrüstung kontrollieren?

Wir brauchen Widerstand. Von Wissenschaftlerinnen, engagierten Gruppen und der Bevölkerung. Es macht mir Hoffnung, dass es auch bei Google Protest von Angestellten gegen das Projekt Maven und bei Amazon gegen Faception gibt. Und auch die Arbeit von Noel Sharkey, Lucy Suchman und vieler meiner Kollegen im ICRAC, dem International Committee for Robot Arms Control, dem auch ich angehöre, macht mir Mut.

Ich danke Ihnen dafür! In Ihrer Forschung fragen Sie, welche Rolle die Vorstellungskraft in der Sicherheitsforschung und -politik spielt, also die Vorstellungskraft derjenigen, die sich diese Szenarien ausdenken sollen. Glauben Sie, dass es möglich ist, aufgrund von Spekulationen präventiv zu arbeiten?

Ich denke, dass man primär damit die Spirale der Angst weiter vorantreibt. Wissenschaftliches Arbeiten ist dieses Vorgehen nicht. Den Anfang dieser Entwicklung kann man allerdings schon im Kalten Krieg beobachten, als man anfing, Atomkriege zu imaginieren, zu simulieren, da man keinerlei Erfahrung damit hatte und hier auch nichts «ausprobieren» konnte – siehe Herman Kahn.

Sie schreiben, dass die «traditionelle Vorstellung von Wissen­schaft­lich­keit zugunsten der Evidenzerzeugung durch Imagination aufgegeben» wird. Wie kommen solche Spekulationen zustande?

Wir können eine Verschiebung weg von Kausalität hin zu Korrelation beobachten. Auch kausale Begründung hat ihre Probleme. Aber die der Korrelation sind massiver.

Baut nicht die gesamte Terrorismusprävention – siehe Anti-Terror-Richtlinie der EU – auf genau solchen Szenarien auf? Gibt aber gleichzeitig zu, dass nicht alles in irgendeiner Weise vorher denkbar oder vorstellbar ist, weshalb dann doch zu ubiquitärer Überwachung als Präventionsmittel der Wahl gegriffen wird.

Ich denke, nicht die ganze Prävention. Es gibt klassische Statistik genauso wie Imagination. Hier findet sich ein wilder Mix, und man muss genau hinsehen.

Sie schreiben: «Je mehr Risiken identifiziert und als grenzenlos klassifiziert werden, desto plausibler erscheinen Forderungen nach umfassenden, vorbeugenden Maximalmassnahmen.» Von den Kameras im ehemals öffentlichen Raum, der heute weitgehend privatisiert wurde. Von der Biometrik in Ausweisen, dem Mitführen des komplett über­wachenden Handys zu den Profilen – wie Verbrecherprofile –, welche die meisten freiwillig ins Netz stellen. Haben Sie eine einfache Idee, wie man der Mehrheit die Gefahren der Überwachung, des transparenten Bürgers vermitteln kann?

Ihnen mit einem Trojaner problematisches Material auf den Rechner schmuggeln?

Nein, im Ernst. Ich denke, dass zumindest Aspekte der Überwachung immer deutlicher werden. Das Problem ist die Geschwindigkeit. Neue Medien und ihre Potenziale müssen gelernt, verstanden, durchschaut werden. Das dauert. Man könnte meinen, wir haben nicht genug Zeit zum Lernen angesichts der Technikentwicklung.

All die Entwicklungen zur Überwachung, zur Automatisierung von Waffen­systemen gehen vornehmlich auf männliche Initiative zurück. Jedenfalls soweit man die CEOs der involvierten Unternehmen betrachtet und die Zusammensetzung der Geheimdienste. Eine elegante Überleitung zum dritten Feld, das ich gerne mit Ihnen besprechen würde: Frauen und IT beziehungsweise Frauen und Technik.

Es gibt viele Versuche, zu erklären, warum weniger Frauen in Technik­berufen arbeiten als Männer. Einige Studien wollen sogar aufgezeigt haben, dass je stärker gleichberechtigt Frauen in einer Gesellschaft sind, desto weniger häufig erlernen sie STEM-Fächer, also Fächer aus Natur­wissenschaft, Technologie, Ingenieurwesen und Mathematik. Fällt Ihnen dazu etwas ein?

In Osteuropa bis 1989 wählten fast genauso viele Frauen wie Männer STEM. In der Türkei gibt es viele Ingenieurinnen. Diese Berufe sind in Westeuropa attraktiv, hoch angesehen, begehrt und deshalb symbolisch aufgeladen – und deshalb männlich codiert.

Mantraesk wird immer wieder auf Studien hingewiesen, die vermutlich subjektive Hirnforschung ist. Durch gezieltes Framing bei der Frage­stellung wird angeblich nachgewiesen, dass Frauen nicht an Technik interessiert sind.

Haben türkische Frauen andere Hirne? Ich meine mich zu erinnern, dass man im Iran vor einiger Zeit eine Männerquote für Mathematik einführen wollte, weil über 80 Prozent Frauen Mathematik studierten.

Es wird ja immer noch häufig und viel und aus vielen Richtungen argumentiert, dass Frauen und Männer eben anders funktionieren: Frauen mögen Technikberufe einfach nicht, daran sei ja auch nichts Schlimmes. Männerhirne können eben besser mit Logik umgehen.

Was verdient ein Informatiker? Und eine Altenpflegerin? Lassen Sie uns hier anfangen.

Der zweite Punkt ist möglicherweise die Einseitigkeit von Technik. Das finden Frauen – aber auch weil sie in dieser Welt der Technik immer noch als Aliens betrachtet werden – sehr anstrengend.

Kate Crawford und andere weisen seit Jahren darauf hin, dass Techno­logien, die von einer homogenen Gruppe – in diesem Fall weissen Männern – gebaut werden, mit Vorurteilen und Stereotypen vorbelastet sind. Eines der bekanntesten Beispiele dafür ist die Verwechslung von Fotos schwarzer Menschen mit Affen in der Google-Fotoanalyse.

Diese Einsicht gibt es schon in den 1980er-Jahren in der feministischen Technikforschung – zum Beispiel bei Wendy Faulkner, Judy Wajcman, Lucy Suchman, Donna Haraway. Paul Dourish benennt das sehr schön als «I-methodology»: Man geht von den eigenen Interessen, Normen, Stereotypen aus.

Ich denke nicht, dass es die männliche Sicht auf die Welt gibt, aber ich denke schon, dass nur ein sehr winziger Prozentsatz der Gesellschaft – und das sind primär männliche, weisse Menschen – an der Technikgestaltung beteiligt sind. Aber da spielen auch neue Paradigmen jenseits demokratischer Ideale eine grosse Rolle: Effizienz, Nudging, Output statt Input. Und das sehen auch manche Männer durchaus kritisch. Und zugleich gibt es leider auch genug männlich identifizierte Frauen. Und dann gibt es noch eine Menge Menschen, die weder in die eine noch in die andere Kategorie subsumiert werden wollen.

Wie würde die Zukunft aussehen, wenn 90 Prozent der Frauen programmieren würden?

Davon wird der Kapitalismus nicht abgeschafft. Aber vielleicht wäre langfristig die Entwicklung einer «lebbareren» Technik möglich, weil Frauen häufig, nicht immer, eine weniger einseitige Welterfahrung machen.

Lassen Sie uns mit etwas Erfreulichem enden.

Positiv stimmt mich, dass die Informatik den wachsenden gesellschaftlichen Legitimationsdruck teilweise wahrnimmt. Die Fragen werden lauter, welche Technologie von wem und für wen und mit welchen Konsequenzen entwickelt wird – und wie sich diese auf die Menschen und ihr Zusammen­leben auswirkt. Man kann das ganz gut an den teilweise sehr kritischen Diskussionen zur sogenannten Smart City, zum Internet of Things oder zur Industrie-Arbeit 4.0 sehen.

Und zumindest werden wir in den Sozial- und Geisteswissenschaften häufiger in die Projekte einbezogen. Natürlich auch, weil die Forschungs­politik darauf drängt, aber immerhin. Und für manche Informatikerinnen ist das auch eine spannende und bereichernde Erfahrung. Schöner wäre natürlich, wenn man die Nutzer mehr einbeziehen würde. Womit wir wieder bei der technopolitischen Bildung wären, die wir erstreiten müssen, wenn sie unsere Regierungen immer noch nicht auf der Agenda haben. Aber ich denke, es gibt positive Zeichen, dass in diesem Bereich immer mehr passiert. Und wenn es eben über Learning by Doing und Empowerment geht. So finde ich zum Beispiel immer mehr Leute auf meinem Messenger namens Signal, mit dem man verschlüsselt kommunizieren und den Datenkraken ein kleines Schnippchen schlagen kann.

Hach, wie schön, Frau Professorin, ich danke Ihnen für Ihre Zeit und Ihren Optimismus!

_{Illustration: Alex Solman}