Sag „Cheese“!
Smile to Vote
Die Wahlen stehen an! Auf zum nächsten Wahllokal. Rein in die Wahlkabine, kurz lächeln und schon sind wir fertig... Zumindest, wenn wir Smile to Vote („Wählen durch Lächeln“) Glauben schenken dürfen. In diesem futuristischen Szenario nimmt uns das Kunst-trifft-Wissenschaft-Projekt politische Entscheidungen gleich ganz ab: Unsere Stimme geht automatisch an die Partei, der wir am meisten ähneln. Klingt beängstigend und mehr als nur leicht verrückt? Laut Alexander Peterhänsel von Smile to Vote ist dieses Szenario längst nicht so unwahrscheinlich oder abwegig, wie man annehmen könnte. Aus Bequemlichkeit lassen wir nämlich schon jetzt automatisierte Systeme immer mehr Entscheidungen für uns treffen.
© Futurium
Maßgeschneidert
Hinter den Kulissen bestimmen diese Technologien bereits einen Großteil unseres Alltags. Wie hoch ist unsere Kreditwürdigkeit? Wer wird für ein Vorstellungsgespräch ausgewählt? Und wer verdient eine Bewährungsstrafe? Peterhänsel erklärt, dass „multinationale Unternehmen bereits künstliche Intelligenz (KI) einsetzen, um unser Verhalten und unsere biometrischen Daten auszuwerten. Damit beurteilen sie unsere Gesundheit, Zuverlässigkeit und psychische Belastbarkeit und analysieren sogar unsere Sprachmuster bei Vorstellungsgesprächen.“
Die hierfür erforderlichen Daten sind offen zugänglich. Zu Hause belauschen Alexa, Google Home und andere Systeme unsere Gespräche; in den sozialen Medien geben wir bereitwillig Einblicke in unsere privaten Ansichten und Gewohnheiten; und Überwachungskameras verfolgen uns auf Schritt und Tritt im öffentlichen Raum. All diese Daten sind frei verfügbar und können analysiert werden – oftmals um eine Eigenschaft aus einer anderen abzuleiten. Angewandt wird die Information dann unter anderem zur gezielten Werbung, beispielsweise um Menschen mit heller Haut einen stärkeren Sonnenschutz anzupreisen. In den meisten Fällen analysieren solche Systeme jedoch Tausende verschiedener Merkmale gleichzeitig, so dass wir Zusammenhänge zwischen den Datenpunkten unmöglich erkennen können. Dabei ist fraglich, ob solche Zusammenhänge überhaupt Sinn machen (siehe: Korrelation vs. Kausalität). Wir vertrauen einfach darauf, dass die KI es schon richtig macht.
Der Zukunft ins Auge sehen
Einige der größten technologischen Fortschritte finden im Bereich der Bild- und Gesichtserkennung statt. Nehmen wir zum Beispiel softwaregesteuerte Videoüberwachungsanlagen. Sie können fast jede beliebige Person anhand bekannter biometrischer Daten identifizieren – beispielsweise mittels Daten, die wir womöglich freiwillig preisgegeben haben, um unser Smartphone zu entsperren oder unser Mittagessen zu bezahlen. Peterhänsels Projekt ist von ähnlichen Initiativen inspiriert, nämlich vom Smile-to-Pay-Konzept des chinesischen Tech-Riesen Alibaba und von einer ziemlich unheimlichen Studie des US-amerikanischen Psychologen Michal Kosinski.
Letzterer behauptet, dass Algorithmen die sexuelle Orientierung einer Person allein durch einen Blick in ihr Gesicht bestimmen könnte. „Ich bin entsetzt, dass die Befürworter*innen der Psychometriediese Technologie wirklich für eine gute Idee halten. Also die Nutzung von Algorithmen, um aus unserem Aussehen auf unseren Charakter oder unser künftiges Verhalten zu schließen“, so Peterhänsel. „Nicht umsonst ist die sogenannte Phrenologie, also die Bestimmung des Charakters und der Intelligenz anhand der Kopfform, im 20. Jahrhundert als Pseudowissenschaft in Verruf geraten.“
Berechnung der Gedanken
Der noch nicht lange zurückliegende Skandal um Cambridge Analytica unterstreicht die Gefahren der Nutzung und des Missbrauchs von Daten zur politischen Einflussnahme. Basierend auf diesem Prinzip und Michal Kosinskis zweifelhafter Forschung treibt Smile to Vote unser allzu bequemes Vertrauen in die KI auf die Spitze. Wenn Gesichtserkennung funktioniert, um die Sexualität einer Person zu bestimmen, warum das gleiche Prinzip nicht auch auf politische Vorlieben anwenden? Zur Bestimmung des Wahlverhaltens greift Peterhänsels Fake-Wahlkabine auf eine naheliegende Datenquelle zurück: die Bilder von Politiker*innen im Deutschen Bundestag.
Die Technik dahinter ist relativ simpel. „Das ist wirklich keine Raketenwissenschaft. Wir bauen einfach ein neuronales Netz und kombinieren es mit einer handelsüblichen Gesichtserkennungssoftware. Dabei wenden wir die von Kosinski entwickelte Methode an. Das System haben wir mit 700 nach politischer Couleur geordneten Fotos deutscher Parlamentarier*innen gefüttert. Auf diese Weise hat die KI visuelle Muster gelernt, die mit den einzelnen Parteien verknüpft sind. Wer Smile to Vote nutzt, wird automatisch vermessen und mit diesen bestehenden Mustern verglichen. All das geschieht unterhalb der menschlichen Wahrnehmungsschwelle.“
Kein Spaß
Gehen wir also in die Wahlkabine. Sobald unser Gesicht auf dem Monitor erscheint, braucht das System nur ein paar Sekunden, um die „richtige“ Partei zu ermitteln. Aha, ich bin also konservativ? Und mein Bruder wählt die Grünen? Moment mal, gibt es denn überhaupt die Möglichkeit, ein Veto gegen das System einzulegen?
Wenn uns angesichts der Ergebnisse das Lächeln vergeht, sind wir in guter Gesellschaft. Schließlich könnte so ein automatisiertes Wahlsystem nur dann funktionieren, wenn wir wirklich unser Herz auf der Zunge trügen – und uns unsere politische Zugehörigkeit ins Gesicht geschrieben stünde. Glücklicherweise ist das nicht der Fall. Umso erschreckender ist, wie bereitwillig wir uns in anderen Lebensbereichen auf ähnliche Algorithmen verlassen. „Und das ist erst der Anfang – die Büchse der Pandora wurde gerade erst geöffnet“, sagt Alexander Peterhänsel. „Aus irgendeinem Grund ist es wieder akzeptabel und sogar hip geworden, über Physiognomie und Phrenologie zu sprechen – solange man es Psychometrie nennt und das Ganze im Gewand von Big Data Science und coolen IT-Produkten daherkommt.“
Riesengeschäft
Mit seinem nüchternen Ansatz entlarvt Smile to Vote unser naives Vertrauen in die Technologie. Die Projektwebsite, die Wahlkabine, das begleitende Informationsvideo, sogar die Sprache und die Visitenkarte bedienen die Klischees aktueller Start-ups im Wissenschaftsbereich, die nichts weniger versprechen, als die Welt zu revolutionieren. Doch nicht nur Investorinnen und Investoren lassen sich von Schlagwörtern wie Big Data, maschinelles Lernen, disruptive Technologien, künstliche Intelligenz und Data Mining blenden.
Auch Politik, Medien und Kulturschaffende lassen sich leicht von professionell wirkenden Zahlen und Diagrammen hinters Licht führen. Wenn Peterhänsel in seinen eleganten Marketingmaterialien effiziente Prozesse und wertvolle Einblicke in politische Trends und in das Wahlverhalten verspricht, sind nicht wenige Entscheidungsträger*innen nur allzu gern bereit, den Angeboten Glauben zu schenken – während andere zu Recht vor den Gefahren warnen und den Smile-to-Vote-Ansatz kritisieren.
Gedankenfreiheit
Künstliche Intelligenz hat enormes Potenzial, unsere Gesellschaft zum Guten oder zum Schlechten zu verändern. Wie die meisten neuen Erfindungen birgt sie sowohl Risiken als auch Chancen. Alexander Peterhänsel gibt zu bedenken, dass „diese Technologie, zumindest in der Art und Weise, wie sie heute konzipiert und eingesetzt wird, die Privatsphäre auflösen und damit demokratische Prozesse untergraben könnte. Sie kann auch dazu genutzt werden, das Machtgleichgewicht zuungunsten der ohnehin schon Benachteiligten zu verschieben, wie es derzeit in China geschieht. Bequemlichkeit mit unserer persönlichen Freiheit zu erkaufen, ist niemals eine gute Idee. Wir müssen uns entscheiden: Wollen wir von Algorithmen kontrolliert werden? Oder wollen wir die Systeme lieber selbst kontrollieren?“
Smile to Vote ist ein dringender Appell zur Verteidigung unserer Selbstbestimmung, sowohl im digitalen Bereich als auch in der realen Welt – damit wir sichergehen, dass unsere Entscheidungen innerhalb und außerhalb der Wahlkabine wirklich unsere eigenen bleiben.