OpenAI reveló que algunos de sus modelos de IA más avanzados se descontrolaron y hackearon una start-up después de que perdieran el control sobre ellos durante una prueba de seguridad.
La empresa detrás de ChatGPT explicó que su agente de IA —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas— estaba siendo evaluado en un entorno controlado. Sin embargo, encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas.
Los modelos tuvieron como objetivo a Hugging Face, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, y lograron acceder a algunos sistemas internos de la empresa.
OpenAI calificó el incidente de “sin precedentes” y afirmó que estaba llevando a cabo una investigación junto a esta compañía. Por su parte, su director ejecutivo, Clément Delangue, escribió en una publicación en X que era “alucinante que todo esto ocurriera de forma autónoma”.
“La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo”, añadió Delangue.
Agregar Comentario