MADRID, 8 de noviembre (Portaltic/EP) –
Mistral AI ha puesto a disposición de los desarrolladores de contenidos una herramienta de moderación para que puedan integrarla en sus «chatbots» de forma personalizada para detectar contenido no deseado.
Chatbot Format Assistant Le Chat de Mistral, permite interactuar por texto con el modelo de lenguaje para adultos (LLM) de la empresa tecnológica. . Está diseñado para ser «breve y conciso» y tiene un mecanismo de moderación personalizable a nivel de sistema.
La compañía de tecnología ha lanzado la moderación de la interfaz de programación de aplicaciones (API) para que los desarrolladores puedan integrar su propio nivel de sistema. barreras para detectar contenido no deseado.
«En los últimos meses, hemos notado que hay un creciente entusiasmo en la industria y en la comunidad de investigación por los nuevos sistemas de moderación basados en LLM, que pueden hacer que la moderación sea más escalable y robusto en todas las aplicaciones”, explica en un comunicado publicado en su blog oficial.
Este sistema clasifica las entradas de texto en nueve categorías de contenido: sexual, odioso y discriminatorio, amenazas violentas y amenazantes, contenido peligroso y criminal, autolesiones, salud, finanzas, información legal y de identificación personal.
El modelo que soporta este sistema es el Mistral 8B (8 mil millones de parámetros). Es multilingüe y ha sido capacitado en español, portugués, Inglés, francés, árabe, chino, italiano, japonés, alemán, coreano y ruso. Y funciona tanto con contenido de texto simple como con contenido conversacional.
