Algorithmen und Transparenz – Welchen Beitrag kann und sollte das Recht leisten?

Forschungsfrage / These

Das Projekt untersucht die Frage, welche rechtlichen Vorgaben an eine transparente Gestaltung algorithmischer Entscheidungsprozesse gestellt werden können oder sollten. Im Fokus stehen dabei sog. Medienintermediäre wie Facebook und Google. Analysiert werden soll, bis zu welcher Grenze Transparenz hergestellt werden kann und darf, wie sich Transparenz auf das Verhalten der aktiven und passiven Nutzer auswirkt und ob Transparenz Diskriminierung entgegenzuwirken und damit letztlich Vielfalt zu fördern vermag. Auch soll untersucht werden, wie die Einhaltung solcher Vorgaben kontrolliert und sichergestellt werden kann.

Beschreibung

Die Masse der im Internet verfügbaren Informationen ist für Nutzer nicht überschaubar. Intermediären kommt deshalb die wichtige Funktion zu, diese Informationsflut mithilfe von Algorithmen zu selektieren und dem Nutzer eine Auswahl der zur Verfügung stehenden Inhalte zu präsentieren.

Dem Gesetzgeber obliegt dabei die Pflicht, Informationsvielfalt zu fördern. Passiven Nutzern soll die Autonomie darüber erhalten bleiben, welche Inhalte sie zu konsumieren gedenken. Aktiven Nutzer soll beim Hochladen von Inhalten bewusst sein, nach welchen Prinzipien diese einer Selektion durch den Intermediär unterliegen. Um diesen Pflichten nachzukommen, muss es für Nutzer nachvollziehbar und verständlich sein, warum ihnen konkrete Inhalte angezeigt und auf welcher Grundlage eventuelle Rangordnungen dieser Inhalte erstellt werden. Hierfür müssen Algorithmen möglichst transparent beschrieben werden. Zugleich kann so einer vielfaltsmindernden Diskriminierung von Inhalten, Informationen und Entscheidungen entgegengewirkt werden. Übermäßige Transparenzpflichten können allerdings mit dem rechtlichen, ökonomischen und technischen Interesse der Intermediäre, ihre Selektions- und Vorschlagsalgorithmen geheim zu halten, kollidieren und gleichzeitig bei unverständlicher Kommunikation auf Desinteresse bei den Nutzern stoßen. Auch stellt sich die Frage, wie hergestellte Transparenz mit der realen Funktionsweise von Algorithmen in Übereinstimmung gebracht, sprich die Einhaltung der Transparenzvorgaben tatsächlich kontrolliert werden kann.

Im Rahmen des Projekts sollen die bisherigen rechtlichen Überlegungen und gesetzgeberischen Aktivitäten zu diesem Themenkreis untersucht und eingeordnet sowie eigene Handlungsempfehlungen abgegeben werden.

Partner

  • GESIS - Leibnitz-Institut für Sozialwissenschaften
  • IDS - Leibnitz-Institut für Deutsche Sprache
  • Internationales Zentrum für Ethik in den Wissenschaften (IZEW)
  • IWM – Leibniz-Institut für Wissensmedien
  • KIT – Karlsruher Institut für Technologie
  • Universität Mannheim
  • ZEW – Leibniz-Zentrum für Europäische Wirtschaftsforschung
  • Logo ZKM | Zentrum für Kunst und Medien

Partner

Gefördert vom Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg aus
Mitteln der Landesdigitalisierungsstrategie digital@bw.

  • Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg
  • Landesdigitalisierungsstrategie digital@bw