Black Lives, Trans Rights und Algorithmen – Wie Technik strukturelle Diskriminierung beeinflusst

Im Rahmen der Diskussionsreihe digiloglounge sprechen unsere Forscher*innen Laura Schelenz (wissenschaftliche Mitarbeiterin) und Regina Ammicht Quinn (Professorin für Ethik und Sprecherin des Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen) mit Sabine Faller (wissenschaftliche Mitarbeiterin am ZKM Karlsruhe) über die Problematik ungerechter Algorithmen.

Unsere Gesellschaft ist geprägt von Strukturen der Ungleichheit. Ob Mann oder Frau, jung oder alt, West oder Ost, Stadt oder Land – unsere alltägliche Realität kann sich teils erheblich voneinander unterscheiden. Das hängt davon ab, welchen strukturellen Vor- und Nachteilen wir jeweils ausgesetzt sind. Strukturelle Ungleichheiten sind in unseren politischen und sozialen Institutionen eingeschrieben. Sie führen zu einer ungleichen und ungerechten Behandlung verschiedener sozialer Gruppen. Dies ist zum Beispiel der Fall bei Rassismus oder (Hetero)Sexismus.
Zunehmend setzt sich die Wissenschaft mit dem Problem auseinander, wie strukturelle Ungleichheiten bewusst oder unbewusst in moderne Technologien eingeschrieben werden. Technik kann sogar mitunter die strukturelle Diskriminierung von bestimmten Gruppen verstärken. Insbesondere betroffen sind Menschen, die ohnehin in der Gesellschaft marginalisiert werden. Dies hat mit der Entwicklung von Algorithmen zu tun.
Algorithmische Systeme sind Computermodelle, die anhand von Datensätzen trainiert werden, eine bestimmte Aufgabe zu lösen. Häufig verfügen diese Datensätze selbst über Verzerrungen, zum Beispiel indem sie über einen hohen Anteil von Daten weißer Menschen verfügen, aber nur über einen geringen Anteil von Informationen über Menschen mit dunkler Hautfarbe. Es gibt aber auch persönliche Annahmen und Vorurteile, die Entwickler-Teams dazu motivieren, Technik „für“ bestimmte Personengruppen zu designen. Dabei werden die Bedürfnisse von weniger beachteten Gruppen vernachlässigt.

Dieser Vortrag beschäftigt sich mit struktureller Diskriminierung durch Technik. Er diskutiert einige Fallbeispiele, unter anderem die Diskriminierung von schwarzen Frauen durch Gesichtserkennungs-Software oder die Diskriminierung von Transgender bei der Sicherheitskontrolle am Flughafen. Dabei werden größere Zusammenhänge der heutigen Technikentwicklung deutlich. Der Vortrag nimmt Bezug auf die Black Lives Matter Bewegung in den USA und diskutiert ihre Relevanz im Kontext des Themas. Es werden Ansätze für eine gerechtere Technikentwicklung vorgestellt, wie beispielsweise die des Netzwerks „Design Justice“.


Laura Schelenz ist wissenschaftliche Mitarbeiterin am Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen. Sie promoviert in Tübingen bei Prof. Astrid Franke in der Amerikanistik. In ihrer Forschung ist sie interdisziplinär ausgerichtet und arbeitet an der Schnittstelle von Technikentwicklung und Diversitäts- bzw. Geschlechterstudien. Sie studierte American Studies sowie Friedens- und Konfliktforschung in Heidelberg, Hartford, Frankfurt und Budapest.

Regina Ammicht Quinn ist Professorin für Ethik und Sprecherin des Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen. Zudem gründete und leitet sie das Zentrum für Gender- und Diversitätsforschung (ZGD) der Universität Tübingen zusammen mit Prof. Ingrid Hotz-Davies. Sie studierte Katholische Theologie und Germanistik, promovierte zur Ethik der Theodizeefrage und schrieb ihre Habilitation zu Körper, Religion und Sexualität.

Blicke mit uns hinter die Kulissen der Digitalisierung und werde Teil der Community unserer Facebook-Gruppe wie auch bei Telegram. Wir laden euch herzlich dazu ein, eure Fragen im Chat der Gruppe zu stellen und euch auszutauschen! Hinweis: Um der Chat-Gruppe beitreten zu können, ist vorab eine Registrierung bei Telegram erforderlich. Hier findet ihr eine Anleitung.

Ready? Go! Einmal im Monat geben die Expert*innen von digilog@bw einen Einblick in ihre digitalen Forschungsthemen und beantworten deine Fragen im Video-Livestream!

Spannende Artikel rund um die verschiedenen Forschungsthemen sowie weitere Expert*innen-Chats zum Nachschauen gibt es auch in unserem Blog auf digilog@bw.