MADRID, 7 de junio (Portaltic/EP) –
Opera presenta devicetest.ai, una herramienta diseñada para evaluar si los dispositivos están capaz de realizar tareas de inteligencia artificial (IA) localmente.
La empresa noruega Open es consciente de que no todos los dispositivos ahora están calificados para realizar tareas complejas de IA, como el uso de grandes modelos de lenguaje local ( LLM).
Por ello, ha desarrollado devicetest.ai, una herramienta “fácil de usar” con la que cualquier usuario puede evaluar si su dispositivo informático tiene las especificaciones necesarias para ejecutar LLM. localmente.
Como se detalla en el comunicado, esta es una herramienta útil tanto para los usuarios que ocasionalmente usan IA como para aquellos con dispositivos avanzados o investigadores que necesitan comparar las variaciones de LLM.
Cuando Al evaluar un dispositivo, esta herramienta ofrece tres configuraciones para elegir. Cada uno hace referencia a un LLM local y por tanto tiene en cuenta las diferentes necesidades y recursos que requiere cada modelo. Debido a esto, la compañía ha aclarado que la selección de la configuración debe basarse en las especificaciones del “hardware” que se está evaluando para obtener resultados representativos.
Específicamente, Opera señala que devicetest.ai tiene en cuenta tres claves métricas al evaluar dispositivos. Por un lado, los tokens por segundo (TPS), miden el número de palabras de cuatro caracteres, incluidos los espacios, que el modelo puede procesar por segundo.
Por otro lado, la evaluación de la latencia del primer token ( FTL), es decir, el tiempo que tarda el modelo en generar la primera palabra después de recibir una señal. Finalmente, se prueba el tiempo de carga del modelo (MLT), que se refiere al tiempo que tarda el “hardware” en cargar el LLM en la RAM del sistema.
Además, también se proporcionan pruebas de dispositivos. Resultados adicionales relacionados con varias tareas típicas realizadas por LLM locales. Luego, estas tareas se ejecutan varias veces y se calculan el TPS y FTL promedio, lo que proporciona una “vista más detallada del rendimiento del dispositivo”.
Para usar la herramienta Para evaluar la IA, los usuarios deben visitar devicetest.ai usando el última versión del navegador Opera Developer. Luego, simplemente haga clic en la opción “Ejecutar prueba”, seleccione una configuración y haga clic en “Iniciar prueba”.
Según las regulaciones de la empresa de tecnología, el proceso de prueba La verificación dura de 3 a 20 minutos , dependiendo de las especificaciones del sistema y del perfil seleccionado. Finalmente, devicetest.ai muestra los resultados en la pantalla para determinar si es un dispositivo calificado o no. Estos resultados se pueden descargar como archivos CSV para compararlos con análisis adicionales posteriores y también compartirlos a través de las redes sociales.
Del mismo modo, las prensas de Opera enfatizan que los datos utilizados para realizar las pruebas analíticas se utilizan únicamente para generar resultados. y comparar el rendimiento del dispositivo con el rendimiento de otros usuarios. Sin embargo, “no se recopilan ni vinculan datos personales a direcciones IP específicas”.
