Menschliche Entscheidungsprozesse mit KI-basierten Systemen

Forschungsfrage / These

Können Menschen mit KI-Systemen autonome Entscheidungen treffen? Welche Herausforderungen entstehen durch die Nutzung von KI-Systemen? Wie beeinflussen solche Systeme unsere Entscheidungen? Wie soll man kann man durch die Gestaltung von KI-Systemen diesen Einfluss lenken?

Beschreibung

Durch die rasante Entwicklung von Methoden zur Künstlichen Intelligenz (KI) sind Algorithmen in der Lage immer mehr und komplexere menschliche Aufgaben zu übernehmen. So können sie bereits medizinische Befunde generieren, juristische Entscheidungen treffen, Musik komponieren oder Bilder gestalten. Sie sind auch in der Lage eigenständig mit Menschen unter Nutzung von natürlicher Sprache zu kommunizieren. Die zunehmende Autonomie von Algorithmen reduziert dabei die menschliche Autonomie in Entscheidungen, erlaubt aber gleichzeitig auch die Nutzung von mehr Daten und Informationen. In diesem Forschungsvorhaben untersuchen wir wie menschliche Entscheidungsprozesse durch KI-basierte Algorithmen beeinflusst werden und wie solche Systeme gestaltet werden müssen, damit Menschen sich nicht nur noch auf die Vorschläge von der KI verlassen, sondern zum autonomen Nutzer der KI werden.

Partner

Gefördert vom Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg aus
Mitteln der Landesdigitalisierungsstrategie digital@bw.