Bias is not just in the data : A holistic view on AI systems, the need for data literacy, and regulatory intervention

Titelangaben

Schönfeld, Mirco ; Mendes Saldanha, Paloma:
Bias is not just in the data : A holistic view on AI systems, the need for data literacy, and regulatory intervention.
In: Anais do 13º Congresso Internacional de Ciências Criminais da PUCRS. Bd. 13 (2022) . - S. 1-14.

Volltext

Link zum Volltext (externe URL):

Abstract

What are the causal relationships between human intervention and AI decision biases and what are the efficient and viable measures to mitigate them? In a context where systems based on Artificial Intelligence - AI are increasingly being used in the spaces of human activities for the automation of repetitive tasks or decision-making with a tangible impact not only on human daily life, but also in the deconstruction of its essence, makes It is necessary to question about the use of technology´s regulation and the mitigation, in an ethical and humanistic way, of biases reflected in its results. This article, therefore, seeks to address the issue between biases and human intervention in AI-supported systems in general, as well as sheds light on the possibility that measures such as regulatory intervention and data literacy can be considered viable, efficient tools. and sufficient for the technical mitigation of biases. For that, we used a theoretical approach encompassing legal literature and the area of computer science, as well as analyzing legal documents.

Abstract in weiterer Sprache

Quais as relações de causalidade entre a intervenção humana e os vieses decisórios da IA e quais as medidas eficientes e viáveis para mitigá-los? Num contexto em que os sistemas baseados em Inteligência Artificial - IA estão cada vez mais sendo utilizados nos espaços de atividades humanas para automação de tarefas repetitivas ou tomada de decisões de impacto tangível não só no cotidiano humano, mas também na desconstrução da sua essência, faz-se necessário questionar sobre a regulação do uso da tecnologia e a mitigação, de forma ética e humanística, de vieses refletidos em seus resultados. Este artigo, portanto, busca enfrentar a problemática entre os vieses e a intervenção humana nos sistemas apoiados em IA de maneira geral, bem como lança luz sobre a possibilidade de medidas como a intervenção regulatória e a alfabetização de dados poderem ser consideradas ferramentas viáveis, eficientes e suficientes para a mitigação técnica dos vieses. Para tanto, utilizou-se de abordagem teórica englobando literatura jurídica e da área das ciências da computação, bem como análise documentos jurídicolegais.