VALÈNCIA, 4 (EUROPA PRESS)
El Instituto de Investigación en Inteligencia Artificial (VRAIN) de la Universidad Politburó Valenciana de València (UPV) es llevando a cabo un proyecto de ciberseguridad para analizar las vulnerabilidades de los sistemas que integran inteligencia artificial (IA).
Forma parte del proyecto ‘Sprint’, Seguridad y privacidad en sistemas con inteligencia artificial, las dificultades que enfrentan los desarrolladores de asistentes Utilizando inteligencia artificial, como Amazon y Alexa, se ha estudiado el rostro. Sus hallazgos se presentarán en el USENIX Security Symposium, una de las conferencias internacionales de ciberseguridad más importantes, del 14 al 16 de agosto de 2024 en Filadelfia (EE. UU.)
El proyecto está financiado por el National Cyber . Instituto de Seguridad (INCIBE), ataca tres focos de vulnerabilidades en sistemas equipados con inteligencia artificial. Por un lado, puede estar relacionada la seguridad y confidencialidad de los datos, tanto los que utilizan los modelos de inteligencia artificial como las capacidades que estos modelos proporcionan y en los que se dispone de datos de terceros.
En segundo lugar, En primer lugar, las vulnerabilidades en el propio sistema pueden impedir que el sistema funcione correctamente, como el malware. Y en tercer lugar, hacer que los sistemas impulsados por IA sean comprensibles tanto para los usuarios como para los operadores y los desarrolladores, de modo que puedan proporcionar a los usuarios el contexto adecuado para utilizarlos correctamente.
Como lo explica el investigador, líder de esto. del VRAIN y profesor universitario de la UPV, José Such, «la inteligencia artificial (IA) está experimentando un grado de avance cada vez mayor y tiene un impacto importante en la sociedad. Muchos de los sistemas que utilizamos hoy en día traen consigo un modelo de IA para proporcionar características avanzadas que nunca antes habían sido posibles.»
Y agregó que el uso generalizado de la IA en los sistemas «tiene muchas ventajas en términos de funcionalidad y conveniencia, ayudando a realizar fácil y rápidamente muchas tareas complejas o repetitivas. las tareas se repiten.»
NUEVO VECTOR DE ATAQUE
«Sin embargo, al mismo tiempo que introducimos la IA, introdujimos nuevos ataques, lo que como siempre sucede cuando se introducen nuevas tecnologías. Pero la mayoría de las primeras técnicas de IA se desarrollaron sin considerar la posibilidad de que los adversarios las atacaran o explotaran una vez integradas en el sistema”, señala. El proyecto nos permitirá ver qué vulnerabilidades se introducen cuando se utiliza IA en los sistemas y qué mecanismos se pueden aplicar para que estos sistemas sean lo más seguros posible. El proyecto está dirigido por Ética y seguridad centrada en las personas y la IA. y VRAIN Privacy Lab (HASP) de la UPV (https.://hasp-lab.github.io/).
Sprint, que comenzará en noviembre de 2023, tendrá una duración de dos años, hasta diciembre de 2025. Este proyecto «Se enmarca en el acuerdo entre Incibe y la Universidad Politècnica de València para incluir proyectos estratégicos en España, en el marco del Plan de Recuperación, Transformación y Resiliencia, con financiación del Fondo Next Generation-UE.
