Razón en blanco – La discriminación en los “algoritmos”

La evolución de la tecnología y particularmente de la Inteligencia Artificial está marcando el ritmo de nuestras sociedades, en algunas cosas de manera positiva y otras no tanto. La Inteligencia artificial puede ser una herramienta muy poderosa para conseguir los objetivos de desarrollo sostenible, pero también a causa de los sesgos humanos puede acentuar las desigualdades sociales.

 

La inteligencia artificial funciona por instrucciones, instrucciones que son dadas por humanos que, diseñando algoritmos generan predicciones, se anticipan a los resultados de por ejemplo una cadena productiva y comercial, o bien analizando, previo depósito de datos, el estado del medio ambiente. Sin embargo, hay algo que no podemos perder de vista, y es que, al ser diseñados por humanos, los algoritmos y por consecuencia la Inteligencia Artificial no son neutrales y, como cualquier asunto hecho o diseñado por humanos, tiene sesgos y esos sesgos pueden o no, aunque normalmente sí generar desigualdades como un reflejo de lo que es la sociedad “real”.

 

De acuerdo con la Organización de las Naciones Unidas la desigualdad no solo puede abarcar el ámbito económico o los patrimonios netos (ingresos y sueldos), sino que también engloba las necesidades básicas como lo son los servicios públicos, salud y educación.  Se pueden encontrar diferentes factores en la desigualdad como los grupos sociales o los géneros (Derechos Humanos, 2019)[1] Una de estas formas de desigualdad es el tratamiento social por motivo del origen étnico o racial que puede verse como una causa de la desigualdad, pero este tipo de desigualdad también es consecuencia de prejuicios y falsos reconocimientos dentro de la dinámica social, dentro de la construcción social de la realidad. Esto es, cómo nos comunicamos es fundamental para crear la realidad de acuerdo con la Teoría del Construccionismo Social. Y la Inteligencia Artificial no deja de ser una forma de comunicación, ya sea a través de un programa informático específico ya sea a través de los medios sociales que circulan por la internet.

La Inteligencia Artificial puede volverse en contra de la sociedad por los sesgos raciales no inclusivos dentro de la dinámica social. Dicho de otra manera, una Inteligencia Artificial que prejuzga por nuestro origen étnico o racial puede ser un obstáculo para la consecución de los Objetivos de Desarrollo Sostenible, particularmente el Objetivo de Desarrollo Sostenible número 10 sobre la desigualdad en los países.

 

@cgonblanc

[1] Derechos Humanos. (2019, 17 de julio). ¿Qué es la desigualdad? Recuperado de Noticias

ONU. https://news.un.org/es/story/2019/07/1459341

Deja un comentario