Coded Bias (2020)

Coded Bias es un documental estadounidense dirigido por Shalini Kantayya que se estrenó en el Festival de Cine de Sundance 2020. La película incluye contribuciones de investigadores como Joy Buolamwini, Deborah Raji, Meredith Broussard, Cathy O’Neil, Zeynep Tufekci, Safiya Noble, Timnit Gebru, Virginia Eubanks, Silkie Carlo, entre otros.

Contexto

Kantayya había dirigido anteriormente un documental titulado Catching the Sun y también dirigió un episodio de la serie de televisión de National Geographic, Breakthrough. También es asociada de la Escuela de Periodismo de Posgrado de UC Berkeley. Kantayya dijo en una entrevista con 500 Global el 17 de agosto de 2021 que tres años antes ni siquiera sabía qué era un algoritmo. Leyó el libro Weapons of Math Destruction, que describe cómo la inteligencia artificial, el aprendizaje automático y los algoritmos pueden determinar resultados para ciertas personas. Más tarde se encontró con el trabajo de Joy Buolamwini a través de una charla Ted.

Resumen

El documental trata sobre la inteligencia artificial y los sesgos que pueden estar incrustados en esta tecnología. Los estudios de informática de la investigadora de medios del MIT, Joy Buolamwini, descubrieron que su rostro era irreconocible en muchos sistemas de reconocimiento facial y trabajó para averiguar por qué estos sistemas fallaban. Más tarde descubrió que los programas de reconocimiento facial solo funcionaban cuando llevaba una máscara blanca. Luego investiga cómo la tecnología artificial puede afectar a las minorías.

Coded Bias afirma que hay una falta de estructuras legales para la inteligencia artificial y que, como resultado, se están violando los derechos humanos. Dice que algunos algoritmos y tecnologías de inteligencia artificial discriminan por raza y género en ámbitos como la vivienda, las oportunidades laborales, la atención médica, el crédito, la educación y las legalidades. Buolamwini y sus colegas fueron posteriormente convocados a testificar ante el Congreso de EE. UU. sobre la inteligencia artificial. Buolamwini creó posteriormente un grupo de defensa digital, el Algorithmic Justice League.

La película destaca cómo los sistemas de reconocimiento facial pueden causar problemas a grupos vulnerables, ya que debido al sesgo dentro del código no reconocen a todos de manera equitativa o como iguales. A medida que las empresas utilizan más aprendizaje automático, los algoritmos discutidos tienen una influencia sustancial sobre la información que discernimos, determinando a los individuos que navegan con éxito por los procesos de contratación automatizados, a aquellos que obtienen acceso a la atención médica y a los que están sujetos a un mayor escrutinio dentro de los sistemas policiales.

Estreno

La película se estrenó por primera vez en el Festival de Cine de Sundance 2020 en enero de 2020. Tuvo un estreno limitado el 11 de noviembre de 2020, antes de un estreno completo en cines virtuales en América del Norte el 18 de noviembre de 2020. El estreno limitado generó unos ingresos de taquilla de 10,236 dólares. El 5 de abril de 2021, el documental estuvo disponible para streaming en Netflix.

Recepción

Respuesta crítica

En el sitio web de agregación de reseñas Rotten Tomatoes, la película tiene una calificación de aprobación del 100% basada en 52 reseñas con una calificación promedio de 7.9/10. El consenso crítico del sitio dice: "Clara, concisa y completa, Coded Bias ofrece una mirada escalofriante a los efectos secundarios en gran medida invisibles de los fundamentos algorítmicos de la sociedad moderna." En Metacritic, la película tiene una puntuación promedio ponderada de 73 sobre 100 basada en siete reseñas de críticos.

En una reseña escrita para el New York Times, Devika Girish afirma: "La película se mueve hábilmente entre críticas pragmáticas y políticas más amplias, argumentando que no es solo que la tecnología sea defectuosa; incluso si fuera perfecta, infringiría peligrosamente las libertades de las personas."

Elogiando el documental por su "impresionante ritmo", Nick Allen, escribiendo para RogerEbert.com, afirma: "Uno podría esperar que un documental sobre datos y algoritmos fuera un poco seco, pero 'Coded Bias' desafía eso al tener mucho en mente y ser ágil, saltando por todo el país y el mundo."

En la reseña del sitio web de la Sociedad para los Estudios Sociales de la Ciencia, Renee Shelby cuestionó si los lectores entendían el poder que ella dijo que se abusaba a través de esta recopilación de datos. Ella afirma: "Donde hay poder, hay resistencia al poder; y la película toca la política 'desde arriba' y 'desde abajo'. La película muestra el activismo de las mujeres y los movimientos sociales (por ejemplo, el Movimiento de los Paraguas de Hong Kong) luchando para asegurar que la vigilancia y otras herramientas algorítmicas no sean abusadas."

Dando al documental una calificación de 2.5 de 5 estrellas, Ashley Sosa, escribiendo para videolibrarian.com, afirma: "El mensaje de advertencia del documental sobre los peligros del sesgo algorítmico se presenta de una manera atractiva y humanista. Los detalles técnicos se mantienen al mínimo, lo que podría verse como positivo o negativo dependiendo del conocimiento previo y el interés."

Premios

Véase también

Algorithmic Justice League

Black in AI

Data for Black Lives

Joy Buolamwini

Timnit Gebru

Reconocimiento facial

Referencias

Enlaces externos

Sitio web oficial

Coded Bias en IMDb