Vivimos en una era en la que todo gira en torno a los datos: desde las estadísticas que salen de encuestas oficiales, hasta los millones de registros que se generan con nuestras actividades (compras con tarjetas, búsquedas en internet…). El fenómeno es tan importante que los datos se consideran como el combustible del siglo XXI, porque permiten tomar decisiones más precisas que pueden derivar en ganancias millonarias.

Los datos no solo son números, sino también palabras, colores, sonidos o cualquier tipo de información que se pueda recolectar, organizar y analizar de forma sistemática. Uno de sus valores agregados es que nutren sistemas de inteligencia artificial que permiten a las computadoras ejecutar tareas humanas.

En mi cabeza, el concepto de inteligencia artificial suena demasiado futurista y me imagino una ciudad llena de robots. Sin embargo, hoy se aprovecha en casi todo lo que hacemos. Por ejemplo, en sistemas bancarios para acreditar a una persona como sujeto de crédito, el cálculo de la prima que pagará una persona por un seguro médico, sistemas para hacer diagnósticos médicos más precisos o el contenido que una red social le muestra a cada usuario.

¿Las máquinas son imparciales a diferencia de los humanos? Los algoritmos pueden estar sesgados por el contexto que han vivido quienes los programaron, y esto perpetúa las desigualdades como brechas de género.

A grandes rasgos, hay dos elementos que se asocian a los sesgos de la inteligencia artificial:

  1. Los datos reflejan otra serie de brechas de género. Las mujeres están subrepresentadas en múltiples actividades y sectores, por lo que los registros tendrán cierto sesgo que impactará a las decisiones.
  2. Hacen falta científicas de datos. De acuerdo con el Banco Mundial, en 2020, menos del 15% de los egresados de carreras de ciencia, tecnología, ingeniería y matemáticas de México fueron mujeres.

De acuerdo con Catherine D’Ignacio y Lauren F. Klein, en su libro Feminismo de Datos, los datos son parte del problema y perpetúan disparidades sociales, pero también pueden ser parte de la solución. Para que lo segundo se concrete, hay que reconocer que las conclusiones de los datos podrían no ser tan objetivas o neutrales como creemos.

De ahí la importancia de tener equipos de ciencia de datos plurales, de manera que los análisis deriven en más oportunidades para las poblaciones en desventaja. Solo así caminaremos hacia empresas y sociedades más incluyentes.

Fuente: https://mujeres.expansion.mx/opinion/2021/10/25/imparcial-inteligencia-artificial