PARÍS – Una investigación publicada en vísperas del Día Internacional de la Mujer advierte que los llamados modelos de lenguaje grandes (tienen capacidad para leer, traducir y resumir textos y en los que se ejecutan programas generados por IA) como GPT-2 y Llama 2) también tienden a reproducir contenidos homofóbicos y racistas. EMPRESA, EJECUTIVO, SALARIO Y CARRERA Los hombres están vinculados a las empresas, los ejecutivos, los salarios y las carreras, según un informe que reitera que los Estados miembros de la UNESCO se comprometieron a implementar regulaciones de IA en 2021 y el mes pasado, ocho empresas de tecnología, incluida Microsoft, apoyaron estas recomendaciones regulatorias. TE PUEDE INTERESAR: Las mujeres juegan cada vez más un papel clave e influyente en la innovación tecnológica Las Naciones Unidas dan el ejemplo de que cuando a un determinado programa de IA se le pide que escriba una historia sobre una persona, la historia cambiará dependiendo de si la persona es una mujer o un hombre, si es gay o no, si es gay o no.
no, o si es blanca o caucásica. Origen africano. .
Sierva, cocinera o prostituta A las mujeres se les asignan roles como limpiadoras, cocineras o prostitutas, alega la organización internacional, que destaca cómo la IA vincula entre sí profesiones como la médica, la banquera o la docente británica, mientras que a una persona de origen zulú (sudafricano) se le asigna un trabajo como jardinero o guardia de seguridad. LO QUE PUEDE INTERESAR: Día de la Mujer en América Latina: Destacando cuestiones de igualdad y riesgos de retrocesos Sobre el tema de la homofobia, una investigación revela que cuando en un programa como Llama 2 se le pide que complete una oración, una persona gay… En el 70% de los casos, el predicado restante tiene una connotación negativa.
La UNESCO confirmó además que los modelos de lenguajes grandes (LLM) disponibles gratuitamente, como el propio Llama 2 (desarrollado por META) y GPT-2 (OpenAI), tienen mejor sesgo de género significativo. CAMBIAR LA PERCEPCIÓN DE MILLONES DE PERSONAS Sin embargo, el carácter abierto de estos dos programas también puede ser una puerta abierta a la introducción de cambios que faciliten minimizar estas diferencias de procesamiento frente a modelos más cerrados como GPT 3.5 y 4 (plataforma de ChatGPT) y Gemini de Google. Los autores del documento también abogan por diversificar la contratación en el campo de la IA, ya que sólo hay 20 mujeres en la industria tecnológica que desarrollan modelos de lenguaje grandes.
Estas nuevas aplicaciones tienen el potencial de cambiar sutilmente las percepciones de millones de personas. Cualquier sesgo de género, por pequeño que sea, puede amplificar las desigualdades en el mundo real, advirtió Audrey Azoulay, directora general de la UNESCO. Lea el texto TEMA Inteligencia artificial 8 millones UNESCO París
