KRANJ, Eslovenia (EFE) no es automáticamente ético. — Sin un diseño ético desde el principio, la inteligencia artificial (IA) ampliará la brecha de género y la discriminación. Por ello, es fundamental formar sistemas basados en ella con datos en los que las mujeres estén representadas de forma fiel.
Así lo afirmaron dos de los principales expertos en la materia organizado por la UNESCO en Eslovenia, durante el Segundo Foro Mundial sobre Ética de la IA, que ayer se centró en los desafíos que enfrenta la comunidad internacional, que considera que se necesita una atención especial. desarrollar esta herramienta, como es el caso de la desigualdad de género y la crisis ambiental. La tecnología no cierra la brecha automáticamente.
Elena Estavillo, directora del Centro para el Futuro de la Sociedad y experta del consejo asesor, dijo que sin políticas claras y diseños basados en principios inclusivos desde el principio, los estereotipos de género aumentarán. de la UNESCO para guiar a sus 194 países hacia el desarrollo ético de la IA. La visibilidad de las mujeres en la tecnología se ha visto gravemente disminuida debido a una falta histórica de representación y participación, persistente con fuertes desarrollos como la inteligencia artificial, que, según datos de la UNESCO, la proporción de mujeres que parecen desempeñar un papel importante en las decisiones ( en qué materiales invertir, cómo diseñar, etc.), esta proporción no llega al 20%.
Estavillo, quien se desempeñó como directora del Instituto Federal de Telecomunicaciones de 2013 a 2019, enfatizó que para que la IA se convierta en una oportunidad para la igualdad se deben abordar dos temas principales: que las mujeres estén bien representadas en la toma de decisiones para integrar una perspectiva de género. y los sistemas de IA se entrenan utilizando datos neutrales en cuanto al género. Según el economista mexicano, actualmente no existe ninguna de estas condiciones: los sistemas de IA discriminan a las mujeres porque aprenden de bases de datos sesgadas, que tienden a reproducir la inercia.
Citó un ejemplo de cómo Amazon excluyó a las mujeres de los trabajos tecnológicos porque utilizó un sistema de evaluación basado en inteligencia artificial que las calificaba más bajo porque esa herramienta se basaba en datos que mostraban que históricamente, los hombres seleccionaban para estos puestos. Se dice que es importante incorporar la perspectiva generacional y el extremismo de los controles de IA en el proceso de toma de decisiones que ayude a acceder a empleos, beneficios, crédito y todas las oportunidades que sustentan la ayuda para las mujeres, porque históricamente ha sido más discriminatorio contra ellas. , mujer.
El problema de estos nuevos desarrollos es que parten de las brechas existentes, dice Constanza Gómez, también mexicana, fundadora de AI for Climate y miembro del consejo asesor de la UNESCO sobre ética de la IA, para tenerlas y ampliarlas en este ecosistema de inteligencia artificial. Para corregirlos sólo es posible implementar un diseño ético desde el principio sin provocar comentarios sobre estas decisiones de actuación sesgadas y discriminatorias. Las dos expertas, miembros de la organización Women4Ethics of AI, coinciden en la importancia de colaborar a nivel gubernamental, académico, empresarial y cívico para impulsar estos conceptos de algoritmos éticos, dejando que la IA tome la iniciativa para cerrar la puerta.
brechas en lugar de amplificarlas. Destacan que los síntomas son vacíos, pero en el fondo están la cultura, los prejuicios y la falta de participación de las mujeres. Sin embargo, Constanza Gómez sabe bien el gran aliado que puede ser la IA para enfrentar los desafíos del planeta, en este caso proporcionando mejores datos sobre el estado de la biodiversidad y potencialmente puede desarrollar políticas públicas de conservación basadas en datos.
La organización que fundó equipó cámaras y sensores acústicos para entrenar un sistema de inteligencia artificial capaz de identificar y cuantificar especies, incluidos jaguares, en diferentes ecosistemas de Yucatán, a través de los cuales se pueden establecer corredores ecológicos. La inteligencia artificial puede ser un aliado muy poderoso para conservar o combatir el cambio climático, pero hay que trabajar para garantizar que los sistemas creados sean transparentes y responsables del tiempo, enfatizó.