Mehr Lohn für männliche KI-Assistenten

KI-Assistenten werden zunehmend als digitale Mitarbeitende und nicht als Werkzeuge betrachtet. In immersiven Umgebungen wie Virtual Reality können Designentscheide zur Verkörperung der KI zu markanten sozialen Signalen werden.

Forschende der UZH-Institute für Informatik und für Betriebswirtschaftslehre untersuchten, wie solche Gestaltungsentscheide die Wahrnehmung und das Verhalten der Nutzenden gegenüber KI-Mitarbeitenden beeinflussen. Sie setzten funktional identische KI-Assistenzen ein, die sich in ihrer Menschlichkeit und ihrer Geschlechtsdarstellung unterschieden: Im Einsatz waren ein textbasierter Chatbot, ein virtueller Roboter sowie die menschenähnlichen Assistenten Johann, der männlich dargestellt wurde, und Johanna, weiblich dargestellt.

In einer kontrollierten Studie erledigten 189 Teilnehmende gemeinsam mit diesen Assistenzen Arbeitsaufgaben, gaben Bewertungen ab und verteilten finanzielle Belohnungen. Zusätzlich befragten die Studienautor:innen 34 Teilnehmende in Interviews anschliessend an das Experiment. Die Ergebnisse zeigen Unterschiede bei der Belohnungsverteilung. Co-Autor Thomas Fritz gibt im Interview Auskunft.

UZH News: Welches Studienresultat hat Sie besonders überrascht?

Thomas Fritz: Überrascht hat mich, dass männlich dargestellte KI-Assistenten als menschlicher wahrgenommen und höher entlöhnt wurden als weibliche, obwohl beide technisch identisch waren. Nur die Darstellung unterschied sich.

Bemerkenswert ist auch der Widerspruch zwischen Einstellung und Verhalten: Die meisten interviewten Teilnehmenden sagten, das Geschlecht spiele für sie keine Rolle. Das tatsächliche Verhalten in der Studie zeigte jedoch ein anderes Bild.

Wie interpretieren Sie dieses Ergebnis?

Wir können nicht eindeutig sagen, woher dieser Unterschied kommt. Wir vermuten aber eine Art metakognitiven blinden Fleck, also eine Voreingenommenheit, die den Menschen selbst nicht bewusst ist. Einerseits vertreten sie den Grundsatz, dass das Geschlecht keine Rolle spielen sollte. Andererseits unterschätzen sie, wie stark soziale Signale ihre Wahrnehmung und ihr Verhalten beeinflussen können.

Man muss dazu auch sagen, dass es sich um eine «Between-Study» handelt: Die eine Hälfte der Teilnehmenden arbeitete mit dem männlich dargestellten Johann, die andere mit der weiblich dargestellten Johanna. Die einzelnen Teilnehmenden konnten die beiden also nicht direkt vergleichen.

Unterschied sich die Bewertung von männlichen und weiblichen Studienteilnehmenden?

Der grundsätzliche Trend zeigte sich bei beiden Geschlechtern. Bei den männlichen Teilnehmern war er allerdings stärker: Sie nahmen die weibliche Assistenz tendenziell als weniger menschlich wahr und belohnten sie geringer als die Teilnehmerinnen.

Welche Empfehlungen für das Design von KI-Assistenten ergeben sich aus der Studie?

Unsere Ergebnisse zeigen einen Zusammenhang: Je menschlicher ein Assistent wahrgenommen wurde, desto mehr vertrauten ihm die Teilnehmenden und desto stärker belohnten sie ihn. Der Unterschied zwischen einem klar als Roboter erkennbaren Assistenten und einem menschenähnlichen Avatar war deutlich.

Eine menschenähnliche Gestaltung kann also Vorteile haben. Gleichzeitig besteht die Gefahr, dass wir einem solchen Assistenten zu sehr vertrauen und vergessen, dass dahinter eine KI steckt. Wie menschlich ein Assistent gestaltet sein sollte, hängt auch von seinem Einsatzzweck ab.

Ist es ethisch überhaupt vertretbar, KI-Assistenten zu «vermenschlichen», obwohl sie keine Menschen sind?

Wir vermenschlichen digitale Assistenten schon lange, etwa mit Namen und Stimmen wie bei Siri oder Alexa. Mit Avataren in einer Virtual-Reality-Umgebung wird diese Wirkung noch stärker.

Problematisch wird es, wenn dadurch falsche Erwartungen entstehen. Deshalb muss transparent bleiben, dass Nutzende mit einer KI interagieren. Zudem sollten wir darauf achten, bestehende Geschlechterstereotype nicht zu verstärken.

Ein Beispiel sind die Namen: Siri und Alexa sind weiblich benannt und wurden vor allem für eher einfache Alltagsaufgaben eingesetzt. Neuere KI-Modelle können dagegen wesentlich komplexere Aufgaben übernehmen – und mit Claude trägt eines dieser Modelle einen männlichen Namen.

Gibt es weitere Aspekte der Studie, die Ihnen besonders aufgefallen sind?

Eindrücklich war, wie schnell sich die Technologie entwickelt. Als wir mit der Studie begannen, mussten wir Sprache zunächst in Text umwandeln, diesen an ChatGPT schicken und die Antwort anschliessend wieder in Sprache übersetzen. Dadurch entstanden Verzögerungen von mehreren Sekunden.

Heute können KI-Systeme praktisch in Echtzeit Gespräche führen. Sie können zuhören, sprechen und uns sogar ins Wort fallen. Dadurch wird die Kommunikation mit KI-Assistenten immer natürlicher und wird am Arbeitsplatz künftig wohl eine grössere Rolle spielen.

Die Studie ist in einer interdisziplinären Kooperation entstanden. Wie haben Sie diese Zusammenarbeit erlebt?

Wir haben für die Studie mit Forschenden aus dem Institut für Betriebswirtschaftslehre zusammengearbeitet. Ich fand diese Kooperation über unterschiedliche Fachgebiete hinweg sehr spannend. Es kamen unterschiedliche Ansätze zusammen, wie wir Studien durchführen und Daten analysieren. Das war sehr bereichernd.