La inteligencia artificial como detonante de inclusión
- Centro-i y UNESCO realizaron este panel enfocado a mostrar cómo la IA sustentada en principios éticos puede impulsar la inclusión.
- Resaltan el compromiso de todos los involucrados en su diseño, desarrollo y aplicación para fomentar su uso responsable, ético y en beneficio de todas las personas.
- Los gobiernos y las empresas tienen responsabilidades específicas.
Como parte del objetivo de Centro-i para la Sociedad del Futuro de impulsar el uso de la tecnología en forma ética, incluyente y responsable, este 7 de julio se realizó el panel: “La Inteligencia Artificial (IA) como detonante de la inclusión”, en conjunto con la UNESCO.
El evento tuvo la participación de Gabriela Ramos, directora general adjunta para Ciencias Sociales y Humanas de la UNESCO; Elena Estavillo, directora general del Centro-i para la Sociedad del Futuro; Olga Cavalli, Subsecretaria de Tecnologías de Información en la Secretaría de Innovación Tecnológica de Argentina; Richard Benjamins, director de la Estrategia de Datos e Inteligencia Artificial en Telefónica; Claudia del Pozo, directora del Eon Resilience Lab en C Minds; y Dorian Rommens, Coordinador del Sector de Ciencias Sociales y Humanas, a nombre de Frédéric Vacheron, representante de la UNESCO en México. La moderación corrió a cargo de Andrea Escobedo Lastiri, directora de Asuntos Gubernamentales y Regulatorios en IBM México y Vicepresidenta de ideaTIC en CANIETI.
La charla inaugural estuvo a cargo de Gabriela Ramos, quien lideró la Recomendación de la Ética en la IA, lanzada en noviembre pasado y firmada por 193 países para adoptar reglas y regulaciones más efectivas para garantizar el desarrollo beneficioso de la misma.
Durante su presentación, detalló algunos aspectos del documento basado en valores y principios, derechos y obligaciones con el medio ambiente, así como con la inclusión; abordando, además, cómo se tiene que garantizar la diversidad no solo en el uso de la tecnología, sino desde el diseño y desarrollo de esta. Es importante la participación de todos los grupos o personas a lo largo del ciclo de vida de los sistemas de IA.
Por otra parte, Olga Cavalli, destacó como la IA es un elemento fundamental para poder incluir a las personas con capacidades diferentes y la importancia de contar con información sobre aquellos segmentos de la población que han estado excluidos. Esto “nos va a permitir diseñar herramientas de modo adecuado siempre teniendo en cuenta que nuestros países no son necesariamente los que toman las decisiones en la concepción de estas herramientas”, señaló.
Richard Benjamins platicó sobre las prácticas corporativas para evitar o mitigar los sesgos indeseados que de vez en cuando resultan de la aplicación de la IA: normas y valores de la organización, concienciación y formación de los empleados, estimación del posible daño que pueda generar el producto, la escala del daño y la probabilidad de que ocurra; representatividad y el impacto del modelo realizado; así como la gobernanza y la responsabilidad del proceso.
En su intervención, Claudia del Pozo, precisó que el reto en América Latina es que no hay conciencia sobre la ética en la IA y que se tiene poco conocimiento sobre los riesgos que pueden surgir en un uso no responsable de la misma. Aconsejando que es importante hablar no solo del qué hacer sino el cómo hacerlo, para lo cual, recomendó conocer las regulaciones adoptadas y propuestas en diferentes países y que tocan aspectos sobre seguridad, equidad, inclusión y no discriminación; transparencia, privacidad y responsabilidad, así como rendición de cuentas.
Elena Estavillo, enfatizó que la IA nos ha ayudado a visibilizar los sesgos que siempre han existido en la interacción humana, mostrando también las brechas que excluyen a grupos históricamente marginados y que por no estar presente en el ecosistema digital no generan datos en esos entornos. “Esto nos debe llevar a hacer cambios más profundos”, añadió.
Para cerrar el evento, Dorian Rommens, platicó algunas buenas prácticas ya existentes en el uso de esta tecnología, felicitando a México, además, por ser uno de los países que se ha comprometido con las recomendaciones sobre la ética en la IA e informó la planeación de un comité nacional multisectorial, con el gobierno, academia, sociedad civil e industria; para seguir impulsando esta guía.
Los invitamos a revivir el evento para escuchar con más detalle las aportaciones de los conferencistas en: