Armas de destrucción matemática: big data y desigualdad

big data

Uno de los libros que más han sonado últimamente dentro de la estupenda colección de ensayos de Capitán Swing es Armas de destrucción matemática, que tiene el subtítulo “Cómo el big data aumenta la desigualdad y amenaza la democracia”. Este ensayo de Cathy O´Neil analiza el modo en el que se usa el big data en distintos sectores y los injustos resultados que provoca. Desde el mismo título ya estamos avisados de que la mirada de la autora es crítica respecto a las herramientas basadas en estas tecnologías y en cada capítulo podemos leer sobre sus repercusiones en educación, sanidad, elecciones o finanzas.

Quizá lo más interesante del libro sea la mirada que tiene Cathy O´Neil en base a su experiencia: ha trabajado en minería de datos, análisis, finanzas, consultoras de riesgo… No es una periodista que se acerca para analizar un tema de actualidad; puede explicar sus vivencias y, desde su perspectiva, centrarse con numerosos ejemplos en los aspectos más críticos que ha vivido o sobre los que ha investigado.

Uno de los ejemplos más clarificadores para quien no sepa de qué hablamos podría ser el del acceso al empleo. O´Neil explica cómo empresas que pagan el sueldo mínimo en Estados Unidos rechazan a miles de personas sin necesidad de gastar tiempo ni recursos humanos en analizar sus perfiles. Mediante sus propios algoritmos descartan a candidatos en base a detalles tan simples como el código postal de su vivienda, su validez crediticia o tests de personalidad, pero también mediante datos más complejos como quiénes son sus amigos de Facebook o información que cruzan con los seguros médicos. Normalmente, estos análisis suelen ir en contra de personas de un espectro bajo en lo socioeconómico: las posibilidades de tener amigos delincuentes en Facebook, residir en barrios alejados o conflictivos o haberse retrasado en algún pago de la tarjeta de crédito son más habituales en personas que provienen de entornos marginales. A esto hay que sumar el detalle de que se juzga en base a un modelo de ciudadano que no tiene que ser el candidato, más bien una suma de prejuicios.

Este último punto es especialmente interesante en la mirada de la autora, quien afirma que las estrategias de big data se basan en la creación de modelos, y todo modelo es una simplificación. A la injusticia que supone clasificar partiendo de la base de que los sujetos no van a cambiar, o de un dato discordante y puntual que lastra sus perfiles, se le añade el que haber nacido en una comunidad concreta, por ejemplo, sea el gran impedimento aunque tengan un recorrido vital intachable.big data

Durante los capítulos del libro se van detallando los usos que grandes empresas, inversoras, aseguradoras médicas o universidades privadas han dejado en manos del big data y cómo la ausencia de ética de sus programadores y creadores han multiplicado la desigualdad. Uno de los más importantes es la opacidad existente. O´Neil pone el ejemplo contrario del uso estadístico en el béisbol, donde todos pueden acceder a los datos de bateo o lanzamiento de los jugadores, pero en los casos enumerados la oscuridad no permite descubrir los puntos en los que los algoritmos detectan los impedimentos que se aplican a las personas. A los contratantes de estas tecnologías no les suele interesar explicar los baremos utilizados, o muchas veces no los comprenden.

Otro de los detalles más llamativos que comenta el libro está en su uso para puntuar la productividad en el sistema educativo y muestra como ejemplo a un profesor que, realizando el mismo trabajo de un año a otro, cambió su puntuación de 6 a 96 sobre 100 sin ninguna explicación. El primer año de aplicación del sistema de puntuación se sintió tan avergonzado que no se lo dijo a nadie en semanas y, como desconocía el motivo del denigrante dato, prosiguió del mismo modo el curso siguiente. Al descubrir la nueva puntuación recibida comprendió que no había lógica alguna en ninguna de ellas. Si desconocía los datos que empujaban a una proyección tan radical, no había realidad a la que asirse para tratar de mejorar sus datos, comprobar en qué fallaba o ver si era cierto que fallaba en algún aspecto.

Quizá el ejemplo que más está en boca de todos es el uso de redes sociales con fines electorales, al que dedica el último capítulo del libro. Primero desgrana cómo se analiza el comportamiento de los usuarios a todos los niveles y luego pasa al modo de aprovecharlo electoralmente. La actualidad del libro es absoluta al llegar hasta el ejemplo de Cambridge Analytica. O´Neil no se queda en los datos fríos y habla sobre los modelos de testeo mostrando a unos usuarios -sin que ellos lo sepan- los estados de gente enfadada y a otros actualizaciones más placidas. A los primeros se les contagia malestar, se genera un efecto negativo, pero el enfado provoca que hagan un mayor uso de las redes. Las pruebas A/B no tratan solo sobre si los usuarios clican más en función del color de fondo de un anuncio, también hay programadores que crean algoritmos lingüísticos para analizar comportamientos y tonos de habla. A estas pruebas se suma la posibilidad de segmentar y mandar mensajes políticos, muchas veces contradictorios, entre distintas zonas geográficas, ciudades o barrios, así como la posibilidad de invertir cantidades absurdas de dinero con fines electorales en nichos de población mientras que se ignora a otros, algo que va en contra de los valores democráticos.

Durante la lectura del libro se echa en falta mayor espacio para propuestas por parte de la autora. Pero también se entiende que es comparable a la lucha contra el libre mercado y apuesta por una base ética que va desde hacer un juramento hipocrático por parte de los programadores, del cual muestra un ejemplo posible, a forzar a las empresas a evitar esa opacidad, algo sumamente complicado como hemos podido comprobar con Google y Facebook.

En resumidas cuentas, este es un libro interesante y al que se puede acceder sean cuales sean los conocimientos que se tengan de estas tecnologías. La enumeración de ejemplos, el modo en el que se transmiten los datos, la mirada de la autora y una cuidada edición de Capitán Swing hacen de Armas de destrucción matemática una lectura actual y necesaria para comprender la sociedad que nos rodea.

ekaitzortega(arroba)gmail.com

Be first to comment