Fuente EFE.- Sin un diseño ético desde el origen, la inteligencia artificial (IA) ahondará en la brecha de género y la discriminación. Por eso, es fundamental entrenar los sistemas basados en ella con datos en los que estén correctamente representadas las mujeres.

Así lo señalaron a EFE dos de las mayores expertas en la materia reunidas por Unesco en Eslovenia, en el II Foro Global sobre la Ética de la IA, que este martes se centra en los desafíos a los que la comunidad internacional cree que hay que prestar especial atención para un desarrollo responsable de la IA, como es el caso de la igualdad de género o la crisis ambiental.

Diseños inclusivos en inicio

“La tecnología no cierra brechas de manera espontánea, si no hay unas políticas claras y diseños basados en principios inclusivos desde el origen, aumentarán los sesgos de género”, afirmó en una entrevista con EFE la mexicana Elena Estavillo, directora del Centro i para la Sociedad del Futuro y experta del consejo asesor de Unesco para guiar a sus 194 Estados hacia un desarrollo ético de la IA.

La visión de las mujeres en el campo tecnológico ha estado “muy relegada” por una histórica falta de representación y participación, que persiste con un desarrollo tan potente como la inteligencia artificial, donde según datos de Unesco el porcentaje de mujeres que está en la toma de decisiones importantes (en qué materias se invierte, cómo se diseñan, etc) no llega al 20 %.

Estavillo, que fue directora del Instituto Federal de Telecomunicaciones de México entre 2013 y 2019, incidió en que para que la IA sea una oportunidad para la igualdad, hay dos cuestiones clave: que las mujeres estén bien representadas en la toma de decisiones para incorporar la perspectiva de género, y que los sistemas de IA sean entrenados con datos sin sesgos.

A juicio de la economista mexicana ninguna de las dos condiciones se da: “Los sistemas de IA discriminan a las mujeres porque aprenden de bases de datos sesgadas, que no tienden sino a reproducir inercias”.

Citó como ejemplo cómo la multinacional Amazon excluyó a las mujeres para empleos en ingeniería porque usó un sistema de selección basado en IA que las calificaba con una nota inferior porque esa herramienta se basó en datos donde venía que históricamente eran hombres los elegidos para esos puestos.

Estavillo advirtió de que hay que incorporar perspectiva de género y extremar los controles de la IA en la toma de decisiones que dan acceso a empleos, becas, créditos y todo aquello que suponga oportunidades para las mujeres, porque “históricamente es donde más se ha discriminado a las mujeres”.

El problema de estos nuevos desarrollos es que “parten de brechas existentes y las están expandiendo en este ecosistema de inteligencia artificial”, apuntó a EFE la también mexicana Constanza Gómez, fundadora de ‘IA for Climate’ y miembro también del consejo asesor de Unesco en ética para la IA.

Para corregirlas “solo cabe un diseño ético desde el origen, sin dar lugar a que se comentan esas decisiones sesgadas y discriminatorias para actuar”.

Ambas expertas, parte de la organización de Mujeres por la Ética en la IA (Women4Ethics of AI, por su nombre en inglés), coinciden en la importancia de colaborar a nivel de gobiernos, academia, empresas y de organizaciones ciudadanas para impulsar estos diseños algorítmicos éticos, de tal manera que la IA “lleve a cerrar brechas en lugar de amplificarlas”.

Y es que “los síntomas son las brechas” pero en el fondo de las mismas “subyace la cultura, los estereotipos, la falta de participación de la mujer”, resaltaron.

Aliada de la crisis ambiental

No obstante, Constanza Gómez conoce bien cómo la IA puede ser una gran aliada de los desafíos del planeta, en este caso para proveer mejores datos sobre el estado de la biodiversidad y poder desarrollar políticas públicas de conservación basadas en datos.

La organización que fundó acondicionó cámaras y sensores de audio que sirvieron para entrenar un sistema de IA que reconociese y cuantificase las especies, entre ellas jaguares, varios ecosistemas de Yucatán (México), gracias a los cuales se puedan establecer corredores ecológicos.

“La inteligencia artificial puede ser un aliado muy fuerte para la conservación o la lucha contra el cambio climático, pero hemos de hacer grandes esfuerzos para que los sistemas basados en ella sean transparentes y haya la oportuna rendición de cuentas”, subrayó.

Ver nota en Crónica

Ver nota en La Tribuna

Share This