Literatur vom gleichen Autor/der gleichen Autor*in
plus bei Google Scholar

Bibliografische Daten exportieren
 

Fairness in the Eye of the Beholder : How Gender Bias Alignment Influences Fairness Perceptions and Reliance in Human–AI Teams

Titelangaben

Zipperling, Domenique ; Deck, Luca ; Zeller-Lanzl, Julia ; Kühl, Niklas:
Fairness in the Eye of the Beholder : How Gender Bias Alignment Influences Fairness Perceptions and Reliance in Human–AI Teams.
In: ACM Transactions on Interactive Intelligent Systems. (Oktober 2026) .
ISSN 2160-6455
DOI: https://doi.org/10.1145/3858913

Volltext

Link zum Volltext (externe URL): Volltext

Abstract

Human-AI collaboration is increasingly relevant in consequential areas where AI recommendations support human discretion. However, human-AI teams’ effectiveness, capability, and fairness highly depend on human perceptions of AI. Positive fairness perceptions have been shown to foster trust and acceptance of AI recommendations. Yet, work on confirmation bias highlights that humans selectively adhere to AI recommendations that align with their expectations and beliefs—despite those recommendations not being necessarily correct or fair. This raises the question of whether confirmation bias also transfers to the alignment of gender bias between human and AI decisions. In our study, we examine how gender bias alignment and the presence of explanations accompanying the AI recommendation influence fairness perceptions, human self-confidence, and reliance on the AI system. Findings from two 22 between-subjects studies underscore the relationship between gender-bias alignment, fairness perceptions, and reliance, demonstrating that merely constructing a “formally fair” AI system is insufficient for optimal human–AI collaboration. Ultimately, AI recommendations are likely to be overridden when the system's biases do not align with those of its users.

Weitere Angaben

Publikationsform: Artikel in einer Zeitschrift
Begutachteter Beitrag: Ja
Keywords: Human-AI Collaboration; Fairness Perception; Appropriate Reliance; Bias Alignment
Institutionen der Universität: Fakultäten > Rechts- und Wirtschaftswissenschaftliche Fakultät > Fachgruppe Betriebswirtschaftslehre
Fakultäten > Rechts- und Wirtschaftswissenschaftliche Fakultät > Fachgruppe Betriebswirtschaftslehre > Lehrstuhl Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz
Fakultäten > Rechts- und Wirtschaftswissenschaftliche Fakultät > Fachgruppe Betriebswirtschaftslehre > Lehrstuhl Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz > Lehrstuhl Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz - Univ.-Prof. Dr.-Ing. Niklas Kühl
Forschungseinrichtungen
Forschungseinrichtungen > Zentrale wissenschaftliche Einrichtungen > Research Center for AI in Science and Society
Forschungseinrichtungen > Institute in Verbindung mit der Universität
Forschungseinrichtungen > Institute in Verbindung mit der Universität > Institutsteil Wirtschaftsinformatik des Fraunhofer FIT
Forschungseinrichtungen > Institute in Verbindung mit der Universität > FIM Forschungsinstitut für Informationsmanagement
Titel an der UBT entstanden: Ja
Themengebiete aus DDC: 000 Informatik,Informationswissenschaft, allgemeine Werke > 004 Informatik
300 Sozialwissenschaften > 330 Wirtschaft
Eingestellt am: 16 Nov 2026 10:20
Letzte Änderung: 16 Nov 2026 10:20
URI: https://eref.uni-bayreuth.de/id/eprint/100188