La Jornada: El funcionamiento de la IA sigue siendo un misterio para la mente humana

Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.

Nueva York. Incluso las mentes humanas más brillantes que desarrollan la inteligencia artificial generativa, que está a punto de cambiar el mundo, reconocen que no entienden cómo funcionan los cerebros digitales.Quienes no están en el sector, usualmente se sorprenden y alarman al descubrir que no entendemos cómo funcionan nuestras propias creaciones de IA, escribió Dario Amodei, cofundador de Anthropic, en un ensayo publicado en Internet en abril.Esta falta de comprensión no tiene precedentes en la historia de la tecnología.A diferencia de los programas de software tradicionales, que siguen rutas lógicas preestablecidas dictadas por los programadores, los modelos de IA generativa (IA gen) se entrenan para encontrar su propio camino al éxito una vez que reciben una orden.En un pódcast reciente, Chris Olah, quien formó parte de OpenAI (creador de ChatGPT) antes de unirse a Anthropic, describió la IA gen como un andamiaje sobre el que crecen los circuitos.Olah es considerado una autoridad en la llamada interpretabilidad mecanicista, un método de ingeniería inversa para entender cómo funcionan los modelos de IA.Esta ciencia, nacida hace aproximadamente una década, busca determinar exactamente cómo la inteligencia artificial llega de una pregunta a una respuesta.Comprender la totalidad de un modelo de lenguaje extenso es una tarea sumamente ambiciosa, dijo Neel Nanda, investigador principal del laboratorio de IA DeepMind de Google.Es en cierto modo análogo a intentar comprender completamente el cerebro humano, algo que los neurocientíficos aún no han logrado, añadió Nanda.Explorar las mentes digitales para comprender su funcionamiento se ha transformado en un campo académico de gran interés, entre otros motivos por su potencial de tornar la IA más poderosa.Los estudiantes se sienten muy atraídos por ello porque perciben el impacto que puede tener, afirmó Mark Crovella, profesor de informática de la Universidad de Boston.