Kranj (Eslovenia).- La UNESCO lanza hoy un observatorio donde describirá las medidas regulatorias, regulaciones y controles que los 194 estados miembros de la organización implementan para garantizar el desarrollo ético de la inteligencia artificial (IA) a nivel nacional. Lea también: República Dominicana y otros países informan sobre regulación ética de la inteligencia artificial El observatorio será presentado esta tarde en el II Foro Mundial sobre Ética de la Inteligencia Artificial promovido por la UNESCO y celebrado para la ocasión en Kranj, Eslovenia, para que los países puedan informar sobre las medidas que han tomado en todo el país. adopción del Marco Ético Global impulsado por la organización en 2021 y firmado por sus 194 países.
Ramos señala que el problema de la inteligencia artificial es que se presenta como un avance tecnológico cuando el gran pensamiento debería ser cómo alinear desarrollos tan impresionantes con nuestros objetivos como sociedad y humanos. En otras palabras, el gran dilema ético de la inteligencia artificial es si nos ayuda a construir sociedades más justas, más equitativas y más sostenibles, y si contribuye a reducir o no las brechas existentes en todos estos ámbitos, afirmó el subdirector de la Unesco. continuado.
¿Y cuál es la respuesta? ¿Conducirá la IA a sociedades más equitativas? NO SON.
A través de la combinación de las bases de datos utilizadas por los desarrolladores, los algoritmos utilizados o el entrenamiento realizado con estas tecnologías, vemos que, en general, mantienen y cómo reproducen la discriminación y los prejuicios que ya conocemos. Ramos sostiene que en realidad solo hay un grupo limitado de multinacionales globales que desarrollan tecnología de inteligencia artificial (más del 80% de las cuales provienen de EE. UU.
y China) y, además, solo el 20% de los trabajadores están diseñados por hombres. en la región son mujeres) es la fuente de cómo mantienen la desigualdad. Por lo tanto, es importante que los Estados garanticen que estos desarrollos tecnológicos respeten el Estado de derecho y de ahí proviene su misión.
En cuanto a cómo deben proceder los países, Ramos explicó que los gobiernos no pueden acudir a cada desarrollador para controlar lo que hacen, eso es imposible, pero pueden lograr eliminar sesgos en los algoritmos, pueden capacitar a sus funcionarios para monitorear mejor estas tecnologías y pueden hacer eso. garantizar que sean éticos utilizando una serie de herramientas, como la contratación pública. Ramos señala que la contratación pública suele representar el 12% del PIB de un país.
Por eso en la UNESCO creemos que es fundamental que los países evalúen y sólo se beneficien de estas compras. estado del medio ambiente. Sostener que las tecnologías basadas en IA deben ser evaluadas desde una perspectiva ética antes de ser lanzadas al mercado por alguien ajeno al equipo de desarrollo.
Estoy hablando de una nueva perspectiva que puede cuestionar incluso los supuestos que se han utilizado para construir los algoritmos, si los datos obtenidos de las selecciones realizadas por estos algoritmos respetan la privacidad, si realmente representan o no a las personas. señaló. Para gestionar la ética de las tecnologías de IA, necesitamos saber cómo funcionan y, en caso de que algo salga mal, tener una especie de caja negra a partir de la cual sepamos con qué datos y algoritmos se entrenó la herramienta.
El Director General Adjunto de Ciencias Sociales y Humanidades de la UNESCO enfatizó que el marco ético global desarrollado en 2021 contiene todos los elementos que deben tener las herramientas de IA en términos de desarrollar la transparencia, la seguridad, promover y proteger los derechos y la dignidad humanos, la inclusión y la igualdad. o el desarrollo sostenible. El marco de la UNESCO tiene mecanismos de supervisión y rendición de cuentas para ver de dónde vienen los países en términos de seguimiento ético a nivel nacional, una especie de diagnóstico y qué están haciendo para mejorar, y en ese sentido se necesitaba un nuevo observatorio.
porque hay gente que conoce estas tecnologías y hay gente que no. El observatorio inaugurado hoy albergará todos estos planes de trabajo y diagnósticos.
