Das Eigenleben der Zahlen

Dr. Christian Papsdorf forscht an der Schnittstelle zwischen Gesellschaft und digitaler Welt. Dabei beobachtet er, wie sich Algorithmen schleichend in Auswahlprozesse einmischen, die eigentlich von menschlicher Sozialkompetenz gesteuert werden sollten.

Algorithmen bestimmen zunehmend unser Leben. Sie zeigen uns, was wir wirklich brauchen, welche Youtube-Filmchen wir unbedingt ansehen müssen, welche Musik uns gefällt und welche Zeitungsartikel unserer Meinungsblase am ehesten entsprechen. Ach, ja, und sie korrigieren gerade auch diesen Text. Doch uns schwant schon lange: Was, wenn diese Algorithmen anfangen ein Eigenleben zu führen und Entscheidungen über unser Leben fällen, ohne das wir es wissen? Mit dieser Gefahr beschäftigt sich Christian Papsdorf als Techniksoziologe an der Chemnitzer TU.

Beispielhaft nennt der Juniorprofessor Algorithmen, die Job-Bewerber aussieben oder die Wahrscheinlichkeit eines Studienabbruchs erkennen wollen. „Die soziale Wirklichkeit ist aber komplex. Oft noch zu komplex für Algorithmen.“ Sollte sich die Lebenswirklichkeit, also die Biographie oder das Qualifikationsprofil von Bewerber und Bewerberinnen, nicht in bestimmte Muster oder Formulare fügen lassen, kann es sein, dass diese im Auswahlprozess benachteiligt werden. „Oft wird erst im Nachhinein erkenntlich, welchen ‚Sinn’ ein Lebensabschnitt hatte. So war das Studium vielleicht nicht erfolgreich, aber man hat währenddessen eine Berufung in einem anderen Feld gefunden“, erklärt Papsdorf. „Oder es wurde ein Studium zwar spät abgebrochen, aber die erlernten Kompetenzen stellen eine wichtige interdisziplinäre Qualifikation für einen späteren Job dar. Auch sind negative Erfahrungen für die Persönlichkeit wichtig und können eine langwährende Motivation bilden.“

Was Christian Papsdorf dabei besonders stört, ist der unkritische Umgang mit den technischen Möglichkeiten. Die digitalen Instrumente werden nicht erprobt, geschweige denn zertifiziert, sondern direkt angewendet und im Laufe der Zeit verbessert. Dies sei laut Papsdorf „riskant und auch verantwortungslos“. Eine besondere Brisanz liege in der Tatsache, dass Empfehlungen von Algorithmen als besonders genau oder objektiv wahrgenommen werden, obwohl dies eher die Ausnahme sei.

Eine Zukunft, in der Menschen von Maschinen bestimmt und gesteuert werden, hält Christian Papsdorf jedoch für unwahrscheinlich. Dennoch warnt der Forscher: „Bürger und Bürgerinnen sollten sich jetzt Gedanken darüber machen, welche Bereiche der Gesellschaft wir automatisieren wollen und bei welchen dies eher nachteilig wäre.“ Eine Verselbständigung der Technik sei nicht in Sicht, wohl aber eine Pfadabhängigkeit, die die Gesellschaft gewissermaßen zur Nutzung zwingt.

Text: Jörg Bollhardt Foto: Steve Conrad