In einem Hintergrundbeitrag für das Israel Public Policy Institute (IPPI) erläutert Maria Pawelec, was "Deepfakes" sind, wie sich die Technik seit ihrer Entstehung 2017 weiterentwickelt hat, wer diese Entwicklung vorantreibt, und welche gesellschaftlichen und ethischen Implikationen Deepfakes in verschiedenen Feldern haben, von Politik über Pornografie und Kriminalität bis hin zu Unterhaltung, Bildung, Aktivismus und Satire. Der Artikel entstand für das deutsch-israelische Programm "Tech Policy Dialog", den das IPPI gemeinsam mit der Heinrich Böll Stiftung initiiert hat. Das Programm bietet eine Plattform für Wissenschaftler:innen und Praktiker:innen aus Wissenschaft, Technik und Zivilgesellschaft, um über die Auswirkungen neuer Technologien auf unsere Gesellschaft zu diskutieren und neue Impulse und Erkenntnisse zur Förderung demokratischer Werte zu gewinnen.

Bei digilog@bw wurde in den vergangenen drei Jahren die Auswirkungen der Digitalisierung in 20 Teilprojekten aus unterschiedlichen Disziplinen erforscht. Im Rahmen dieser Teilprojekte sind zum einen zahlreiche Qualifikationsarbeiten wie Dissertationen oder Habilitationsschriften entstanden und die Forschungsergebnisse wurden außerdem als Artikel oder Zeitschriftenbeiträge (https://digilog-bw.de/publikationen) veröffentlicht. Zum anderen wurden die Forschungsergebnisse auch in dialogischen Formaten zugänglich gemacht: In Zusammenarbeit mit unserem Projektpartner ZKM Karlsruhe wurden die digitalen Gesprächsformate Digiloglounge Digital und #meetdigilog entwickelt (https://digilog-bw.de/blog), in denen an digilog@bw beteiligte Forscherinnen und Forscher über ihre Ergebnisse berichten und mit Bürgerinnen und Bürgern ins Gespräch kommen. Im Format Spotlight (https://digilog-bw.de/spotlight) haben digilog@bw-Wissenschaftlerinnen und -Wissenschaftler aus fächerübergreifender Perspektive Bezug auf Themenfelder genommen, die in Bürgerdialogveranstaltungen als besonders wichtig eingestuft worden sind.

Zum Projektabschluss von digilog@bw – Digitalisierung im Dialog präsentieren alle Projekte unter dem Titel #outputdigilog ein weiteres Veröffentlichungsformat, das den jeweiligen Projektteams für die Präsentation der Projektergebnisse besonders passend erschienen ist.

#outputdigilog: Hintergrundbeitrag zu Deepfakes

Im neunten Teil von #outputdigilog präsentieren wir das Projekt „Ethische und gesellschaftliche Implikationen von „Deepfakes“ und Chancen ihrer Regulierung“. Maria Pawelec hat sich dazu entschieden, ihren #outputdigilog als Hintergrundbeitrag für das Israel Public Policy Institute (IPPI) zu veröffentlichen.

Wir haben Frau Pawelec dazu zwei Fragen gestellt:

Weshalb haben Sie sich für die Veröffentlichung des #outputdigilog für die Form des Hintergrundberichts entschieden?
Der Hintergrundartikel richtet sich an eine interessierte Öffentlichkeit in Europa und ist somit nicht nur einem Fachpublikum zugänglich. Er vermittelt breiter fundiertes Wissen über eine aktuelle technische Entwicklung und ihre gesellschaftlichen Auswirkungen. Das finde ich wichtig, denn Deepfakes werden unser digitales Leben immer stärker beeinflussen. Internetnutzer:innen sollten also besser über die Möglichkeiten KI-basierter Medienmanipulation und -synthese informiert sein, um zum Beispiel weniger anfällig gegenüber Desinformation oder Cyberkriminalität zu sein.

Gab es bei dieser Form der Präsentation Herausforderungen, die Sie so aus Ihrer bisherigen Arbeit nicht kannten?
Eine Herausforderung bei diesem Format war, dass es möglichst "neutral" über eine wichtige gesellschaftliche Debatte informieren soll. Dies fiel mir in Bezug auf die Diskussion um die Produktion und Verbreitung nicht-einvernehmlicher Deepfake-Pornografie schwer, da diese meines Erachtens aus ethischer Sicht klar abzulehnen ist.

Der Hintergrundbeitrag ist hier abrufbar.