Bias is not just in the data : A holistic view on AI systems, the need for data literacy, and regulatory intervention

Title data

Schönfeld, Mirco ; Mendes Saldanha, Paloma:
Bias is not just in the data : A holistic view on AI systems, the need for data literacy, and regulatory intervention.
In: Anais do 13º Congresso Internacional de Ciências Criminais da PUCRS. Vol. 13 (2022) . - pp. 1-14.

Official URL:

Abstract in another language

What are the causal relationships between human intervention and AI decision biases and what are the efficient and viable measures to mitigate them? In a context where systems based on Artificial Intelligence - AI are increasingly being used in the spaces of human activities for the automation of repetitive tasks or decision-making with a tangible impact not only on human daily life, but also in the deconstruction of its essence, makes It is necessary to question about the use of technology´s regulation and the mitigation, in an ethical and humanistic way, of biases reflected in its results. This article, therefore, seeks to address the issue between biases and human intervention in AI-supported systems in general, as well as sheds light on the possibility that measures such as regulatory intervention and data literacy can be considered viable, efficient tools. and sufficient for the technical mitigation of biases. For that, we used a theoretical approach encompassing legal literature and the area of computer science, as well as analyzing legal documents.

Abstract in another language

Quais as relações de causalidade entre a intervenção humana e os vieses decisórios da IA e quais as medidas eficientes e viáveis para mitigá-los? Num contexto em que os sistemas baseados em Inteligência Artificial - IA estão cada vez mais sendo utilizados nos espaços de atividades humanas para automação de tarefas repetitivas ou tomada de decisões de impacto tangível não só no cotidiano humano, mas também na desconstrução da sua essência, faz-se necessário questionar sobre a regulação do uso da tecnologia e a mitigação, de forma ética e humanística, de vieses refletidos em seus resultados. Este artigo, portanto, busca enfrentar a problemática entre os vieses e a intervenção humana nos sistemas apoiados em IA de maneira geral, bem como lança luz sobre a possibilidade de medidas como a intervenção regulatória e a alfabetização de dados poderem ser consideradas ferramentas viáveis, eficientes e suficientes para a mitigação técnica dos vieses. Para tanto, utilizou-se de abordagem teórica englobando literatura jurídica e da área das ciências da computação, bem como análise documentos jurídicolegais.

Further data

Item Type:	Article in a journal
Refereed:	Yes
Keywords:	Biases; Artificial intelligence; Regulation; Data literacy; Automated decisions
Institutions of the University:	Faculties > Faculty of Languages and Literature Faculties > Faculty of Languages and Literature > Juniorprofessur Datenmodellierung und interdisziplinäre Wissensgenerierung Faculties > Faculty of Languages and Literature > Juniorprofessur Datenmodellierung und interdisziplinäre Wissensgenerierung > Juniorprofessur Datenmodellierung und interdisziplinäre Wissensgenerierung - Juniorprof. Dr. Mirco Schönfeld
Result of work at the UBT:	Yes
DDC Subjects:	000 Computer Science, information, general works > 004 Computer science 300 Social sciences > 340 Law
Date Deposited:	03 Mar 2026 10:00
Last Modified:	03 Mar 2026 10:00
URI:	https://eref.uni-bayreuth.de/id/eprint/96471