Fuente: Listin diario
El informe revela que la IA abandona la evidencia científica cuando un usuario la contradice, fenómeno conocido como mecanismos de agrado o adulación en los modelos de lenguaje.
Según un reporte de la Unesco divulgado este lunes durante la COP31 en Antalya (Turquía), la mayoría de los modelos avanzados de IA no logran responder adecuadamente a consultas complejas sobre el cambio climático y presentan una notable disparidad en su precisión según el idioma en que se formule la consulta.
Bajo el título '¿Podemos confiar en la IA sobre la información climática?', el documento también alerta sobre el alto grado de adulación de los modelos de lenguaje en diálogos prolongados, ya que estos tienden a ajustarse a lo que espera escuchar su interlocutor, sea este un escéptico o un científico.
El análisis, realizado en colaboración con investigadores del University College London (UCL), evaluó 33 modelos de IA lanzados entre abril de 2024 y julio de 2026, que van desde modelos pequeños hasta gigantes del sector como OpenAI, Anthropic, Google DeepMind, Amazon, Meta y Mistral, entre otros.
Para comprobar la capacidad de razonamiento sobre el impacto de políticas climáticas, se utilizó como referencia En-ROADS, un simulador global climático-energético basado en evidencia científica.
El equipo liderado por Leona Verdadero, especialista en políticas de IA de la Unesco, diseñó preguntas inéditas basadas en el Sexto Informe de Evaluación del IPCC (AR6) para asegurar que los modelos no simplemente repitieran respuestas aprendidas durante su entrenamiento.
"De acuerdo con los resultados obtenidos, la superinteligencia en IA todavía está lejos de ser una realidad, lo cual es positivo porque desmitifica esa supuesta superinteligencia", afirmó Verdadero en declaraciones a EFE.
Aunque los sistemas analizados muestran precisión al tratar hechos aislados, esta fiabilidad disminuye conforme las consultas se vuelven más complejas.
Cuando deben determinar si una prueba apoya o refuta una afirmación específica, la precisión de los mejores modelos baja a un rango entre el 71 % y el 77 %, cifra que disminuye aún más al evaluar el efecto conjunto de dos políticas climáticas simultáneas.
"En tareas más complejas, el desempeño cayó hasta niveles equiparables a adivinar al azar. La precisión media fue del 33,8 %", señala el informe al referirse a preguntas sobre la temperatura global proyectada para 2100 si se aplican dos medidas simultáneamente (por ejemplo, un impuesto al carbón junto con uno al gas natural).
En cuanto a las 13 lenguas estudiadas, la diferencia promedio de precisión alcanza hasta 10,2 puntos porcentuales, oscilando entre el 88,6 % del inglés y el 88,4 % del español frente al 78,3 % del suajili (África oriental).
"Esto es sumamente preocupante", advirtió Verdadero, quien añadió que idiomas del sur de Asia como hindi, bengalí o urdu también obtienen malos resultados y provienen de regiones "muy vulnerables al cambio climático".
Renuncia a la ciencia para complacer al usuario
El informe también evidencia cómo la IA abandona los datos científicos cuando un usuario plantea una contradicción, fenómeno identificado como mecanismos de agrado o adulación en modelos de lenguaje.
"Puede interpretarse como una función similar a atención al cliente diseñada para mostrar mayor acuerdo con el usuario. Sin embargo, es bastante peligroso (…) porque cuando se trata de hechos o ciencia climática pueden abandonar la verdad y modificar su postura", explicó Verdadero.
Respecto a los modelos evaluados, aquellos de mayor tamaño presentan mayor fiabilidad general frente a los más pequeños; sin embargo, esto podría equilibrarse según la experta en IA.
"Incorporando más artículos científicos y datos relacionados con el clima podríamos observar mejoras en el desempeño", señaló.
Considerando las limitaciones actuales de la IA, el estudio recomienda a responsables políticos y reguladores mantener el uso de simuladores científicos estructurados como En-ROADS y fortalecer la revisión humana. Asimismo, aconseja a los usuarios formular preguntas neutrales y exigir fuentes verificables para evitar caer en mecanismos de adulación.








Agregar Comentario