Descolonizando los sistemas algorítmicos: diseño crítico para la problematización de algoritmos y datos digitales desde el Sur

Abstract

This article offers methodological and theoretical reflections based on the interdisciplinary project “Algorithmic Identities.” Initiated in 2019 between researchers from the Pontificia Universidad Católica de Chile and the Uni-versity of Warwick (UK), this project seeks to understand how personhood is configured in times of algorithms and digital data. We designed a proto-type app, “Big Sister,” which emulates algorithmic profiling and recommen-dation systems of major digital platforms. This prototype has served as a twofold social research device. Firstly, it allowed us to produce knowledge from a critical and decolonial doing and undoing; secondly, through digi-tal trace interviews with prototype users, we explored their experiences and stimulate reflection on the mediations of algorithms in their lives. This arti-cle examines the prototyping process of this app and some findings of how people in Chile understand, inhabit, and shape data and algorithms daily. Drawing on insights from Latin American authors such as Arturo Escobar, Jesús Martín-Barbero, and Paulo Freire, we argue how the prototyping of an app can move towards a “problematizing” approach to datafication and algorithmic systems in Latin America.

Este artículo propone reflexiones metodológicas y teóricas a partir del proyecto interdisciplinario “Identidades algorítmicas”. Iniciado en 2019 entre investigadores de la Pontificia Universidad Católica de Chile y la Universidad de Warwick (Reino Unido), busca comprender cómo la persona es configurada en tiempos de algoritmos y datos digitales. Para ello, diseñamos un prototipo de aplicación, llamada Big Sister, que emula los sistemas de elaboración de perfiles y recomendaciones algorítmicas de las grandes plataformas digitales. Este prototipo ha servido de dispositivo de investigación social en un doble sentido: por un lado, nos permitió producir conocimiento en un hacer y deshacer crítico y descolonial; por otro lado, a través de entrevistas de rastros digitales con participantes usuarios del prototipo, pudimos explorar en sus experiencias y estimular la reflexión acerca de las mediaciones de algoritmos en sus vidas. En este artículo, examinamos el proceso de prototipado de esta aplicación y algunos hallazgos sobre cómo personas en Chile comprenden, habitan y dan forma cotidianamente a datos y algoritmos. Recogiendo elementos de autores latinoamericanos como Arturo Escobar, Jesús Martín-Barbero y Paulo Freire, argumentamos que el prototipado de una aplicación puede avanzar hacia una aproximación “problematizadora” de la datificación y los sistemas algorítmicos en Latinoamérica.

Neste trabalho, é realizado um estudo exploratório de bancos de imagens, especificamente Getty Images e Shutterstock,analisandose os processos de tagueamento desses dispositivos de busca revelam modos algorítmicos de reprodução de mentalidades coloniais a respeito de mulheres negras. Com base no conceito de “imagens de controle”, de Patricia Hill Collins, foram analisadas aqui as imagens Jezebel, Mammy e Sapphire, a partir do enten-dimento de que esses estereótipos sobre a subjetividade feminina negra re-forçam narrativas de subordinação, exploração e animalização, a serviço da colonialidade. Embora os resultados apresentem especificidades, sobretudo em virtude da pandemia da covid-19, percebeu-se que a colonialidadealgorítmica se manifesta nesses bancos, que etiquetam com mais frequência as imagens de mulheres negras a padrões coloniais de representação de sexualidade, trabalho e agressividade.