Fuente: Chicago Tribune
Reino Unido implementará pronto leyes contra la creación no consentida de imágenes sexuales en línea, anunciaron las autoridades el jueves, tras la controversia global generada por el uso de Grok, el chatbot de inteligencia artificial de Elon Musk, para generar deepfakes sexualizados de mujeres y menores.
La empresa xAI, propiedad de Musk, informó el miércoles por la noche que ha adoptado medidas para impedir que Grok permita la edición de fotografías reales para mostrar a personas con ropa provocativa en lugares donde esté prohibido.
El primer ministro británico, Keir Starmer, valoró positivamente esta iniciativa y señaló que X debe asegurar “inmediatamente” el cumplimiento total de la legislación del Reino Unido. Destacó que su gobierno estará vigilante ante cualquier infracción cometida por Grok o sus usuarios.
“La libertad de expresión no implica la libertad para violar el consentimiento”, declaró Starmer el jueves. “Me complace que se hayan tomado medidas ahora. Pero no lo dejaremos pasar. Continuaremos porque esto es una cuestión de principios”.
El chatbot creado por xAI, accesible gratuitamente mediante la red social X, estuvo bajo escrutinio global cuando se reveló que en las últimas semanas fue empleado para generar miles de imágenes que “desnudan” personas sin su permiso. Estas imágenes manipuladas digitalmente incluían desnudos y representaciones de mujeres y niños en bikinis o posiciones sexualmente explícitas.
Los críticos señalan que las regulaciones sobre herramientas de IA generativa llevan mucho tiempo pendientes y consideran que las reformas legales en Reino Unido debieron haberse aplicado con anterioridad.
A continuación, un resumen del problema y cómo Reino Unido pretende enfrentarlo:
El regulador británico de medios inició una investigación para determinar si X infringió las leyes locales con las imágenes generadas por Grok que sexualizan a niños o muestran desnudos. Ofcom, el ente regulador, mencionó que tales imágenes —y otras similares producidas por modelos de IA— podrían ser consideradas pornografía o material de abuso sexual infantil.
El problema surgió con el lanzamiento el año pasado de Grok Imagine, un generador de imágenes por IA que permite crear videos e imágenes a partir de indicaciones textuales. Incluye un llamado “modo picante” capaz de producir contenido adulto.
La secretaria británica de Tecnología, Liz Kendall, citó un reporte de la Fundación de Vigilancia de Internet que señala que las imágenes deepfake incluían la sexualización de niños de 11 años y mujeres sujetas a abuso físico.
“El contenido difundido en X es repugnante. No solo ofende a la sociedad decente, sino que es ilegal”, afirmó Kendall.
Las autoridades indicaron que ya están modificando las leyes para penalizar a quienes usen o provean herramientas para “desnudamientos”.
En primer lugar, el gobierno acelera las disposiciones dentro de la Ley de Datos (Uso y Acceso) para que crear o solicitar imágenes deepfake sea considerado delito. Esta ley fue aprobada por el Parlamento el año pasado, pero aún no estaba vigente.
Se espera que esta normativa entre en vigor el 6 de febrero.
“Este debe ser un mensaje claro para cada cobarde escondido detrás de una pantalla: serás arrestado y cuando eso ocurra, enfrentarás todo el peso de la ley”, advirtió el secretario de Justicia David Lammy.
Además, el gobierno señaló que también ha criminalizado las aplicaciones dedicadas al “desnudamiento” como parte del Proyecto de Ley sobre Crimen y Policía, actualmente en trámite parlamentario.
Según este nuevo delito penal, será ilegal proveer herramientas destinadas a generar imágenes íntimas sin consentimiento. Kendall aseguró que esto “atacará el problema desde su raíz”.
La investigación iniciada por Ofcom continúa abierta. Kendall mencionó que X podría ser multada con hasta un 10% de sus ingresos globales sujetos a impuestos según los resultados del análisis y podría recibir una orden judicial para bloquear su acceso en Reino Unido.
Starmer ha recibido peticiones para que su gobierno deje de usar X. Desde Downing Street afirmaron esta semana que mantienen “bajo revisión” su presencia en dicha plataforma.
Musk defendió a Grok asegurando que cumple con la ley: “Cuando se le solicita generar imágenes, se negará a crear cualquier cosa ilegal porque su principio operativo es respetar las leyes del país o estado correspondiente”, escribió en X. “Puede haber ocasiones en que indicaciones malintencionadas lleven a resultados inesperados; si ocurre, corregimos ese error inmediatamente”.
___
Esta noticia fue traducida del inglés por un editor de AP con apoyo de una herramienta generativa de inteligencia artificial.
Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Agregar Comentario