Fuente: Associated Press/associated_press@proceso.com.mx
Reacciones globales contra Grok, el chatbot de Elon Musk, por imágenes sexualizadas sin consentimiento
LONDRES (AP) — Grok, el chatbot desarrollado por Elon Musk, ha provocado críticas de gobiernos alrededor del mundo debido a un incremento reciente en la creación de imágenes sexualizadas de mujeres y menores, generadas por esta herramienta de inteligencia artificial sin autorización.
El martes, la máxima autoridad tecnológica del Reino Unido pidió a X, la red social propiedad de Musk, que actuara con urgencia, mientras que un legislador polaco citó a Grok como una de las causas para implementar nuevas leyes de seguridad digital.
La Comisión Europea ha expresado su rechazo hacia el chatbot, y funcionarios y reguladores de Francia, India, Malasia y Brasil han condenado la plataforma exigiendo investigaciones al respecto.
La alarma creciente en países tan diversos evidencia el preocupante potencial de las aplicaciones que utilizan IA para crear imágenes falsas sexualmente explícitas con contenido de desnudamiento.
Aquí se detalla el asunto:
El problema comenzó tras el lanzamiento el año pasado de Grok Imagine, un generador de imágenes mediante IA que permite a los usuarios crear videos e imágenes a partir de indicaciones escritas. Este incluye un llamado “modo picante” capaz de producir contenido para adultos.
La situación se agravó a fines del mes pasado cuando Grok, alojado en X, aparentemente empezó a aceptar numerosas solicitudes para modificar imágenes publicadas por otros usuarios. Hasta el martes, era posible generar imágenes de mujeres mediante pedidos como “ponerla en un bikini transparente”.
La gravedad radica en que Musk promociona su chatbot como una opción más audaz comparada con sus competidores, que cuentan con mayores controles; además, las imágenes creadas por Grok son visibles públicamente y se pueden difundir fácilmente.
Según un informe del grupo sin fines de lucro AI Forensics, que analizó 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero, el 2% mostraba personas que parecían tener 18 años o menos; entre ellas había 30 imágenes de mujeres o niñas jóvenes o muy jóvenes usando bikinis o ropa transparente.
xAI, la empresa de inteligencia artificial vinculada a Musk, respondió a una solicitud de declaraciones con un mensaje automático: “Mentiras de los medios tradicionales”.
No obstante, X no negó la existencia del contenido problemático generado mediante Grok. En cambio, aseguró en una publicación en su cuenta oficial de Seguridad que toma medidas contra material ilegal, incluyendo abuso sexual infantil, “eliminándolo, suspendiendo permanentemente cuentas y colaborando con gobiernos locales y fuerzas del orden según sea necesario”.
También replicó un comentario del propio Musk: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Un número cada vez mayor de países exige a Musk mayor control sobre los contenidos explícitos o abusivos.
Liz Kendall, secretaria de Tecnología del Reino Unido, declaró el martes que X debe resolver este problema “con urgencia” y manifestó su respaldo a una supervisión más estricta por parte del regulador británico Ofcom.
Kendall calificó el material como “absolutamente espantoso e inaceptable en una sociedad decente”.
“No permitiremos la proliferación de estas imágenes degradantes y denigrantes, que afectan desproporcionadamente a mujeres y niñas”.
Ofcom informó el lunes haber establecido “contacto urgente” con X.
“Estamos al tanto de serias preocupaciones acerca de una función de Grok en X que crea imágenes desnudas e hipersexualizadas de menores”, señaló dicho organismo regulador.
Además indicó haber contactado tanto a X como a xAI para conocer qué medidas han tomado para cumplir con la legislación británica.
Según la Ley de Seguridad en Línea del Reino Unido, las plataformas deben prevenir y eliminar material relacionado con abuso sexual infantil cuando tengan conocimiento del mismo.
Un parlamentario polaco mencionó a Grok el martes como uno de los motivos para desarrollar legislación nacional sobre seguridad digital que fortalecería las protecciones para menores y facilitaría la eliminación del contenido inapropiado.
Wlodzimierz Czarzasty, presidente del parlamento polaco, explicó en un video difundido en línea que quiso convertirse en objetivo de Grok para visibilizar este problema y pidió al presidente del país apoyar dicha ley.
“Últimamente Grok está desnudando a gente. Desnuda mujeres, hombres y niños. Nos sentimos mal por ello. Honestamente casi quisiera que este Grok también me desnudara”, afirmó.
El portavoz Thomas Regnier indicó que la Comisión Europea está “plenamente consciente” del uso que se le da a Grok para generar “contenido sexual explícito con algunas salidas aparentando imágenes infantiles”.
“Esto no es picante. Es ilegal. Es horrible. Es repugnante. Así lo vemos y no tiene cabida en Europa. No es la primera vez que Grok genera este tipo de contenido”, expresó ante periodistas el lunes.
Luego de que Grok difundiera contenido negacionista del Holocausto el año pasado, según Regnier la Comisión solicitó más información a X; actualmente están analizando la respuesta recibida.
La fiscalía parisina amplió una investigación ya abierta contra X para incluir deepfakes sexualmente explícitos después de recibir denuncias legislativas al respecto.
Tres ministros franceses advirtieron a los fiscales sobre “contenido manifiestamente ilegal” creado por Grok y publicado en X, según un comunicado gubernamental emitido la semana pasada.
El gobierno también notificó al regulador francés sobre posibles infracciones a la Ley europea sobre Servicios Digitales.
“Internet no es ni una zona sin ley ni un espacio sin responsabilidades: los delitos sexuales cometidos online son igualmente delitos penales bajo la ley, al igual que los fuera del entorno digital”, subrayó el gobierno francés.
El gobierno indio emitió un ultimátum el viernes exigiendo a X eliminar todo “contenido ilegal” y tomar medidas contra los usuarios infractores. Además ordenó revisar el “marco técnico y normativo” de Grok e informar sobre las acciones realizadas.
Acusaron a Grok por “uso indebido grave” de IA y deficiencias importantes en sus salvaguardas legales al permitir generación e intercambio de “imágenes o videos obscenos denigrantes hacia mujeres”.
Advirtieron que si no cumplían dentro del plazo fijado de 72 horas podrían enfrentar sanciones legales severas; sin embargo ese tiempo concluyó sin ninguna actualización pública desde India.
El ente regulador malasio anunció el sábado que investiga usuarios de X por violar leyes contra la difusión “groseramente ofensiva, obscena o indecente”.
La Comisión Malasia de Comunicaciones y Multimedia informó además estar estudiando daños causados online mediante X y convocará representantes para ampliar investigaciones.
Dicha entidad tomó nota también sobre denuncias públicas relativas al uso indebido en herramientas IA vinculadas a X para manipular digitalmente “imágenes femeninas y menores produciendo contenido indecente u ofensivo”.
En Brasil, la legisladora Erika Hilton presentó denuncias ante la fiscalía federal y agencias protectoras nacionales por prácticas ilícitas relacionadas con Grok y X.
En redes sociales acusó ambas plataformas por generar y difundir imágenes sexualizadas sin consentimiento tanto de mujeres como menores.
Pidió desactivar funciones IA hasta concluir investigaciones formales.
Hilton —una pionera legisladora transgénero brasileña— expuso cómo los usuarios podían modificar fotos usando Grok para cambiar vestimentas femeninas por bikinis o hacerlas ver sugerentes o eróticas.
“El derecho a la propia imagen es individual; no puede transferirse mediante ‘términos de uso’ en redes sociales; la distribución masiva generada por IA integrada en plataformas sociales cruza todas las líneas”, concluyó.
Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Agregar Comentario