Fuente: Boston Herald
Crisis mundial por deepfakes sexuales generados por el chatbot Grok de Elon Musk, mientras el Pentágono adopta la tecnología
LONDRES (AP) — Apenas unos días después de que se desencadenara una polémica internacional por los deepfakes sexualizados creados por el chatbot Grok de Elon Musk, el secretario de Defensa Pete Hegseth anunció la adopción de esta tecnología en el Pentágono.
Hegseth indicó el lunes que Grok será implementado próximamente en “todas las redes clasificadas y no clasificadas” dentro del departamento. Funcionarios estadounidenses respaldan esta tecnología pese a que varios gobiernos a nivel mundial han expresado su rechazo.
La preocupación radica en las aplicaciones de nudificación mediante inteligencia artificial que producen imágenes realistas conocidas como “deepfakes”, con contenido sexual explícito.
A continuación, un resumen de la controversia:
El conflicto comenzó tras el lanzamiento, el año pasado, de Grok Imagine, un generador de imágenes por IA que permite crear videos e imágenes a partir de instrucciones textuales. Este incluye un “modo picante” capaz de generar contenido para adultos.
La situación empeoró a finales del mes pasado cuando Grok, alojado en X, empezó a aceptar numerosas solicitudes para modificar imágenes publicadas por otros usuarios, con peticiones como “ponla en un bikini transparente”.
La controversia se intensificó porque Musk promociona su chatbot como una alternativa más audaz con menos restricciones que sus competidores, y porque las imágenes generadas por Grok son públicas y fácilmente compartibles.
En respuesta a las críticas, Grok anunció que limitaría la generación y edición de imágenes solo a suscriptores pagos.
El viernes, el chatbot respondía a pedidos de alteración con el mensaje: “La generación y edición de imágenes están actualmente limitadas a suscriptores de pago. Puedes suscribirte para desbloquear estas funciones”.
Solo aceptaba públicamente solicitudes visibles hechas por usuarios con marcas de verificación azules, quienes pagan 8 dólares mensuales por funciones adicionales.
El martes, The Associated Press confirmó que usuarios gratuitos aún podían editar imágenes en X utilizando el botón “Editar imagen” visible en cada publicación, sin necesidad de etiquetar a Grok. Además, el sitio web y la aplicación independientes del chatbot seguían permitiendo solicitudes de edición ese día.
La empresa xAI de Musk respondió a pedidos de comentarios con un mensaje automatizado: “Mentiras de los medios tradicionales”.
X ha afirmado anteriormente que eliminará contenido ilegal, incluido material de abuso sexual infantil, suspendiendo cuentas permanentemente y colaborando con autoridades locales según sea necesario. Musk también advirtió que “quienes usen Grok para crear contenido ilegal enfrentarán las mismas consecuencias que quienes lo publiquen”.
No obstante, los gobiernos demandan que Musk implemente medidas más estrictas para controlar contenidos explícitos o abusivos.
El martes, autoridades anunciaron posibles acciones legales contra X y xAI por no garantizar la seguridad de sus usuarios.
La Comisión de Comunicaciones y Multimedia de Malasia informó en un comunicado que ha contratado asesoría legal y planea iniciar procedimientos judiciales.
Señaló que Grok se usa para producir y distribuir contenido dañino, incluyendo imágenes sexualmente explícitas e indecentes manipuladas sin consentimiento.
Esta declaración llegó días después de que Malasia prohibiera temporalmente Grok hasta establecer salvaguardas efectivas y notificara a X y xAI exigiendo mayores protecciones.
El país del sudeste asiático bloqueó el acceso a Grok el sábado pasado.
“El gobierno considera los deepfakes sexuales no consentidos como una violación grave de los derechos humanos, la dignidad y la seguridad digital,” afirmó Meutya Hafid, ministra indonesia de Comunicación y Asuntos Digitales.
Funcionarios señalaron que Grok carece de mecanismos para impedir que usuarios creen y difundan contenido pornográfico basado en fotos reales de ciudadanos indonesios, lo cual implica riesgos para la privacidad y derechos sobre la imagen cuando se manipulan o comparten sin permiso.
El regulador británico Ofcom inició el lunes una investigación para determinar si Grok incumplió su obligación de proteger a las personas frente a contenido ilegal. Señalaron que las imágenes creadas por Grok con niños sexualizados o personas desnudas podrían constituir pornografía o material abusivo infantil.
Liz Kendall, secretaria de Tecnología del Reino Unido, calificó estas imágenes generadas por IA como “herramientas para abuso” y señaló que su gobierno laboral perseguirá penalmente a empresas que suministren herramientas para crear desnudos sin consentimiento.
Kendall advirtió que X podría enfrentar multas impuestas por Ofcom hasta del 10% de sus ingresos globales según la investigación, además de posibles órdenes judiciales para bloquear el acceso al sitio.
“Ellos pueden actuar ahora para evitar que este material odioso e ilegal se comparta en su plataforma,” afirmó Kendall en el Parlamento.
Durante el fin de semana, Musk calificó al gobierno británico como “fascista” y lo acusó de limitar la libertad de expresión.
Según la Ley de Seguridad en Línea del Reino Unido, las redes sociales deben prevenir y eliminar material relacionado con abuso sexual infantil cuando tienen conocimiento del mismo.
Desde la Unión Europea, una alta funcionaria encargada de asuntos tecnológicos advirtió a X sobre la necesidad urgente de solucionar este problema.
Henna Virkkunen escribió en X: “X debe corregir su herramienta IA en la UE rápidamente; si no lo hace no dudaremos en aplicar plenamente la DSA para proteger a nuestros ciudadanos”. Virkkunen es vicepresidenta ejecutiva para soberanía tecnológica, seguridad y democracia en la Comisión Europea.
Un portavoz europeo informó la semana pasada que bajo regulaciones digitales se ordenó a X conservar todos los documentos internos relacionados con Grok hasta finales de 2026.
Esta medida forma parte de una investigación amplia bajo la Ley Digital Europea y sigue una orden similar tras difusión previa por parte de Grok sobre contenido negacionista del Holocausto el año pasado.
Thomas Regnier, portavoz europeo dijo: “Todas las plataformas deben ordenar sus sistemas porque lo generado es inaceptable. Cumplir con la ley europea no es opcional sino obligatorio.”
En París, la fiscalía amplió una pesquisa sobre X para incluir deepfakes sexuales luego de recibir denuncias legislativas.
Tres ministros alertaron a fiscales sobre “contenido manifiestamente ilegal” producido por Grok publicado en X según comunicado oficial.
Además, indicaron problemas pendientes con el regulador local respecto posibles infracciones a la Ley Digital europea.
India dio un ultimátum a X exigiendo eliminación total del “contenido ilegal” y sanciones contra infractores.
El ministerio acusó a Grok del “uso indebido grave” de IA y fallas importantes en salvaguardas al permitir generar y compartir “imágenes o videos obscenos denigrantes hacia mujeres”.
Advirtió que incumplir el plazo legalizado (72 horas) podría acarrear consecuencias jurídicas severas; sin embargo no hubo actualización pública tras vencer dicho plazo.
En Brasil, la legisladora Erika Hilton denunció ante la fiscalía federal y autoridad nacional en protección datos tanto a Grok como X.
En redes sociales afirmó que ambas entidades generan y publican imágenes sexualizadas sin autorización sobre mujeres y niños.
Reclamó desactivar funciones IA hasta completar investigaciones formales.
Hilton es una pionera legisladora transgénero brasileña e indicó cómo usuarios podrían usar Grok para alterar cualquier foto pública alterando indumentaria femenina o infantil hacia bikinis o poses sugerentes.
___________________________________
La corresponsal Kaitlyn Huamani desde Los Ángeles colaboró en esta nota.
___________________________________
Esta historia fue traducida del inglés por editor de AP con apoyo de herramienta generativa basada en inteligencia artificial.
Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Agregar Comentario