Wanda Muñoz, experta en inclusión, asistencia a víctimas y desarme humanitario de la Red de Seguridad Humana en América Latina
Bloque 1: Género. Ámbito de actuación 6 de la Recomendación
La Recomendación establece que los Estados Miembros deben asignar presupuesto público para financiar planes con perspectiva de género, velar por que las políticas digitales nacionales incluyan un plan de acción en materia de género y elaborar políticas para que las niñas y las mujeres no queden excluidas de la economía digital impulsada por la IA. ¿Cómo hacer realidad estos presupuestos?
En primer lugar quisiera insistir en que la Recomendación retoma perfectamente lo que -quienes trabajamos de manera cotidiana por la igualdad de género- llamamos «enfoque de dos vía». Es decir, la Recomendación requiere por una parte que todas las iniciativas de IA incluyan perspectiva de género; y por otra parte, requiere políticas específicas para fortalecer las capacidades para que niñas y mujeres participen en igualdad de condiciones. O sea, hay dos pilares en los que debemos trabajar de forma paralela y ambos requieren presupuestos.
Ahora bien, la movilización de recursos nacionales y la asignación de presupuestos públicos tiene que partir primero que nada de una voluntad y de un liderazgo político, y de un compromiso de gobernantes, senadoras, senadores, de la función pública.
Porque un presupuesto refleja los recursos existentes, pero también refleja aquello a lo que le damos valor, y a qué le damos prioridad. Es necesario buscar más fondos, pero también preguntarnos – y creo que por ahí podríamos empezar- cómo reasignar de manera más justa los presupuestos existentes. Podríamos pensar, por ejemplo, que 10 o 15% de presupuestos ya dedicados o adjudicados a ciencia y tecnología se dedicaran específicamente a acciones para promover la igualdad de género. Esto sería un buen primer paso.
Ahora, inclusive hablando de presupuestos nacionales, podríamos explorar es la cooperación internacional en un inicio, por ejemplo a través de un proyecto piloto que fueran claramente con el objetivo de contribuir a implementar en México la recomendación de la UNESCO, obviamente, con perspectiva transversal de género como uno de sus principales objetivos. Como parte de un proyecto de esta naturaleza se podría incluir la realización de un análisis presupuestario a fondo que permitirá identificar vías para movilizar recursos nacionales, de diferentes fuentes, para avanzar en la iguldad de género y que permitieran ir construyendo esa sostenibilidad que necesitamos; igualmente podría explorarse un proyecto así con nuestras universidades. Es así como hemos avanzado con éxito en otros sectores y en otras regiones del mundo.
Por otra parte, me parecería importante hacer un mapeo de las organizaciones y expertas y expertos que ya están trabajando en este tema de género, ciencia y tecnología y demostrando resultados. Hay personas haciendo muy buen trabajo y sería muy beneficioso mapear no solo recursos económicos sino también recursos humanos y buenas prácticas desarrolladas en México.
Y finalmente, no quisiera dejar de mencionar que cuando hablamos de género, es también fundamental que empecemos a hablar de género y diversidad con un enfoque interseccional, es decir que además de pensar cómo garantizar la igualdad de género se tomen también medidas concretas para incluir a personas con discapacidad, afrodescendientes, de pueblos originarios, entre otros- ya lo mencionó Salma, es fundamental pensar siempre en género y otras características de la gran diversidad que tenemos en México.
El tema de género y diversidad es esencial por lo cual, si bien reconozco las dificultades, creo no podemos escudarnos en la falta de recursos.
Bloque 2: Educación e investigación. Ámbito de actuación 8 de la Recomendación
Actualmente se están utilizando aplicaciones pedagógicas basadas en la IA para innovar y mejorar la enseñanza, sin embargo, estas tecnologías son costosas y, por lo tanto, inaccesibles para la mayoría, intensificando las desigualdades. ¿Cómo podemos construir programas de educación en materia de IA que impulsen la participación y liderazgo de personas en situación de vulnerabilidad?
Comparto algunos elementos con base en lo que ha funcionado en otros sectores:
En primer lugar tenemos que preguntarnos ¿dónde están las organizaciones representativas de los grupos marginados? Debemos incluirlos en estas mesas de diálogo. Ese debe de ser el primer paso- si bien no están especializadas en tecnología o IA, es parte de la Recomendación y obligación del Estado mexicano difundir esta información para conocer sus derechos y justamente no ser vistos como objetos o consumidores, como comentó el Senador. Este debe ser el punto de partida.
Enumero algunos ejemplos de acciones concretas:
Realizar alianzas estratégicas con organizaciones representativas de diferentes poblaciones; e incluirlas en todos los diálogos como el que estamos desarrollando el día de hoy.
Desarrollar materiales accesibles que permitan que la población en general y en específico los grupos marginados conozcan conceptos básicos de derechos digitales, IA, sus derechos y cómo exigirlos. Esto es lo hacemos comúnmente con instrumentos de derechos humanos- en imágenes, en lenguaje sencillo, entrevistas de radio, hay muchísimas ideas- tenemos que acercar la Recomendación a todas y todos. No es suficiente que quede en manos de «especialistas».
Implementar sesiones de sensibilización y conocimiento de derechos para dichas organizaciones de poblaciones marginada frente a los desafíos y oportunidades de la IA, fomentar reflexiones sobre cómo esta Recomendación aplica y qué significa para cada grupo en su propia situación y circunstancia.
Fundamental: hay que capacitar también a quienes desarrollan o quienes tienen que ver con IA, a funcionarias y funcionarios, a los gobiernos, sobre esta metodologías para incluir de manera efectiva a grupos marginados, pues se habla mucho de capacitar a grupos en situación de vulnerabilidad, pero hay que capacitar con el mismo ímpetu a los actores de la IA para que eliminen la barreras existen, para que mejorar sus propias prácticas, procedimientos y tecnologías que el día de hoy están generando justamente que en algunos casos la IA esté de hecho fomentando desigualdades.
Todo lo que menciono aquí son ejemplos, hay muchas más acciones que podríamos implementar para implementar la Rec y contribuir al principio de «No Dejar a Nadie Atrás» en el cumplimiento de todos y cada uno ODS.
Este tema de la inclusión y diversidad de grupos marginados temas que estamos impulsando también muchísimo en la Alianza Global sobre IA así que esperamos poder también poder seguir fortaleciendo puentes entre lo que sucede y la experiencia en México y la experiencia internacional.
Conclusiones: Evaluación e Impacto Ético. Ámbito de actuación 1 de la Recomendación
¿Qué debería incluir como mínimo una evaluación de impacto ético de la IA? ¿Qué actores y sectores consideran que deberían estar involucrados en ello?
Dos acotaciones muy puntuales:
Por un lado, es fundamental incluir en los desarrollos de evaluaciones de impacto éticos a la sociedad civil, organizaciones feministas, defensores derechos humanos y organizaciones de base representativas de grupos marginados; quienes representan a la mayoría de las personas que serán impactadas de una u otra manera por la inteligencia artificial, para bien o para mal. Sus aportes por lo tanto además de ser importantes deben considerarse porque es un derecho humano participar en la toma de decisiones que impactan nuestras vidas.
Por otro lado, me parece igualmente fundamental vincular los marcos éticos con derechos humanos. La ética es crucial pero debe entenderla como complementaria de instrumentos jurídicamente vinculantes como son las Convenciones de Derechos Humanos que de hecho se enumeran en la Recomendación. Estos derechos ya están codificados a nivel internacional y por supuesto a nivel nacional; existen además diferentes marcos de monitoreo de derechos humanos con indicadores claros, indicadores de género, por cual al avanzar en este tema de evaluaciones de impacto ético me parece importante que vayan de la mano con evaluaciones de impacto en los derechos humanos que además son exigibles.