Si entendemos la cultura digital como un entramado de flujos transfronterizos que dan vida a distintos ecosistemas de relaciones y comunidades desde las experiencias y expresiones colectivas, estaremos hablando de una coyuntura compleja que nos ayuda a cuestionar las dimensiones geopolíticas y culturales de nuestros procesos de comunicación. La cultura digital, por ende, se vuelve indisociable de otros ámbitos como la política, el trabajo, la educación, la vida cotidiana, el entretenimiento, la seguridad social; y puede ser analizada desde sus dinámicas y representaciones, pero también a partir de sus tensiones y micropolíticas (Guattari & Rolnik, 2006).
El 24 de junio de 2020, The New York Times publicó un artículo sobre Robert Williams, un ciudadano norteamericano que fue detenido por la policía en el estado Michigan, porque un algoritmo de un sistema de reconocimiento facial lo confundió con otra persona. El caso no abonó nada para el contexto actual que se vive, no solo en ese país sino en todo el mundo. La pregunta central es ¿nos gobiernan ya los algoritmos? La realidad observable es que cada vez es más difícil argumentar que los algoritmos son neutrales y que no reproducen diferentes situaciones que mantienen o amplían desventajas en grupos vulnerables.
De hecho, cada vez es más frecuente que los algoritmos ejerzan diferentes formas de poder dentro de un orden social, es una forma con la que responden a los contextos sociales de su producción y por ende, se necesita ser más críticos sobre las formas en las que ya actúan. La incertidumbre sobre el algoritmo podría llevarnos a juzgar erróneamente su poder, a exagerar su importancia, a concebirlos erróneamente como un actor aislado, o a no ver cómo el poder puede desplegarse realmente a través de estas tecnologías . Esta dificultad de comprensión, entre otras cosas, ha llevado a Pasquale (2015) a concluir que vivimos en una sociedad de cajas negras: una sociedad inundada por “tecnologías enigmáticas”. El punto central de Pasquale es que los valores y prerrogativas que las normas codificadas promulgan, están ocultos dentro de cajas negras. Otros pensadores, como Éric Sadin, ya nos han advertido también de las consecuencias de lo que se ha llamdo el “giro incitativo de la tecnología”, en donde el libre albedrío se desploma a causa de la inteligencia artificial. Nos encontramos ante una nueva subjetividad híbrida, en el inicio latente de un estado de gobierno algorítmico que pilotea numerosas situaciones colectivas e individuales y que tiene forma de caja negra.
Para hacerle contrapeso crítico a esta sociedad de cajas negras, existen ya desde hace varios años organizaciones civiles como AlgorithmWatch, Tactical Tech, La Quadrature du Net y Eticas Foundation con su Observatorio de Algoritmos con Impacto Social (OASI). Es precisamente el OASI quien ha compilado una base de datos que enlista más de cincuenta algoritmos cuyo impacto se calcula a nivel mundial.
A continuación presentamos una visualización de datos tipo aluvial en la que mostramos cómo se relacionan estos más de cincuenta algoritmos conforme a las variables de implementación, autoría, jurisprudencia, categorías y principales amenazas hacia la sociedad en general. La visualización enfatiza las tendencias en los datos de acuerdo al grosor de la barra en color negro. Se destaca que los algoritmos enlistados representan en su mayoría riesgos sociales en torno a la discriminación socioeconómica, amenaza de la privacidad y hacia la discriminación de género y racial.
Los algoritmos también tienen ahora una presencia cultural, incluso una presencia cultural icónica, no sólo por lo que son capaces de hacer sino también por la noción de lo que la palabra algoritmo proyecta en el imaginario de las personas. Esto significa que los algoritmos pueden formar parte del despliegue del poder, no sólo en cuanto a su función, sino también en cuanto a cómo se entiende como fenómeno.
A modo de conclusión, compartimos este documental sobre la Humanidad Aumentada que busca profundizar en la conversación al respecto de los algoritmos que ya nos gobiernan.
Los algoritmos que nos gobiernan.pdf
Referencias
- Beer, D. (2016). The social power of algorithms. Information, Communication & Society, 20:1, 1-13.
- Guattari, F. & Rolnik, S. (2006). Micropolítica: cartografías del deseo. Traficantes de sueños.
- Kitchin, R. (2017). Thinking critically about and researching algorithms. Information, Communication & Society, 20:1, 14-19.
- Manovich, L. (2017). Los algoritmos de nuestras vidas, en CIC. Cuadernos de Información y Comunicación 22, 19-25.
- Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.
