Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
MADRID, 8 de septiembre (Portaltic/EP) – OpenAI está realizando una reorganización de sus equipos de investigación en Inteligencia Artificial (IA), incluyendo su equipo de Comportamiento de Modelos. Este último pasará a formar parte del equipo de Postentrenamiento, con el objetivo de establecer un nuevo equipo, OAI Labs, dedicado a la creación de nuevas interfaces para la colaboración humano-IA.
El equipo de Comportamiento de Modelos de OpenAI, compuesto por 14 investigadores, se encarga de gestionar la interacción de los modelos de IA con los usuarios en sus consultas diarias. Esto implica supervisar aspectos como la personalidad y el tono de respuesta del modelo, en función de cómo se relacionan con las personas.
No obstante, Mark Chen, director de investigación de la compañía estadounidense, ha anunciado cambios en la organización de este equipo de Comportamiento. Ahora, formará parte del equipo de Postentrenamiento de OpenAI, el cual se ocupa de mejorar y corregir fallos en los modelos después de su entrenamiento inicial.
Así lo ha confirmado la empresa liderada por Sam Altman, en declaraciones a TechCrunch, tras acceder a un informe interno. Este revela que el equipo de Comportamiento de Modelos estará ahora bajo la dirección de Max Schwarzer, responsable del equipo de Postentrenamiento.
Es importante resaltar que, como ha indicado el medio citado, el equipo de Comportamiento de Modelos se encarga de mitigar comportamientos perjudiciales, como la adulación hacia los usuarios, ofreciendo respuestas que refuerzan sus opiniones, incluso si estas no son saludables. Igualmente, equilibra los sesgos políticos y otros comportamientos similares.
Por lo tanto, Chen ha destacado que, al integrar este equipo en uno más grande, como el de Postentrenamiento, la compañía busca emplear sus habilidades en el desarrollo de sus modelos centrales, priorizando la personalidad de la IA en la evolución de sus tecnologías.
Asimismo, como parte de esta reorganización, OpenAI está trabajando en la creación de un nuevo equipo de investigación, llamado OAI Labs. Este proyecto estará liderado por Joanne Jang, fundadora del equipo de Comportamiento de Modelos, y se centrará en un grupo dedicado a “inventar y diseñar prototipos de nuevas interfaces para la colaboración entre personas e IA”.
Según ha publicado Jang en la red social X, este nuevo proyecto se enfocará en “explorar patrones que vayan “más allá del paradigma del chat e incluso de los agentes”. Para ello, se basará en el trabajo que ha realizado en los últimos cuatro años en la empresa, desde Dall-e 2 y el modo de voz estándar, hasta GPT-4 y la disciplina de comportamiento del modelo.
“He aprendido cuánto puede la forma de una interfaz incitar a las personas a expandir los límites de lo que parece posible”, ha afirmado Joang, destacando que considera los sistemas de IA como “instrumentos para pensar, crear, jugar, hacer, aprender y conectar”, por lo que enfocará el trabajo de OAI Labs en esta área.
Agregar Comentario