Fuente: Boston Herald
NUEVA YORK (AP) — Grok, el chatbot creado por Elon Musk, continúa generando controversias, y en esta ocasión, más gobiernos a nivel mundial intentan intervenir.
Presentado por primera vez en 2023, Grok representa el intento de Musk por superar a competidores como ChatGPT de OpenAI y Gemini de Google, desarrollando un asistente de IA basado en un modelo de lenguaje extenso que se entrena con grandes volúmenes de datos para predecir la palabra más adecuada en una oración. Es el producto principal de xAI, la empresa emergente de IA de Musk, que se integró con su red social X. Al igual que ChatGPT y Gemini, la compañía de Musk ha añadido funciones para generar imágenes mediante IA en el chatbot.
Las intenciones deliberadas de Musk para configurar a Grok como un rival frente a lo que él denomina la ortodoxia “woke” dentro del sector tecnológico en temas relacionados con raza, género y política han provocado problemas reiterados para el chatbot. Por ejemplo, el año pasado expresó ideas antisemitas, elogió a Adolf Hitler y realizó otros comentarios ofensivos hacia usuarios en la plataforma social X de Musk. Además, se descubrió que reflejaba las opiniones de su creador al punto que a veces consultaba en línea la postura de Musk sobre un tema antes de emitir una opinión.
Más allá del ámbito político, la autopercepción de Musk como un “absolutista de la libertad de expresión” ha llevado a su empresa a adoptar una política más permisiva respecto a imágenes sexualizadas. Mientras otros chatbots bloquean la creación de contenido pornográfico, OpenAI había previsto permitir que ChatGPT participase en “erotismo para adultos verificados” desde el mes pasado, pero no lo implementó.
Estas son algunas controversias recientes en las que Grok se ha visto involucrado:
Grok ha sido criticado por producir imágenes manipuladas que incluyen representaciones de mujeres en bikinis o poses sexualmente explícitas, así como imágenes vinculadas con menores.
El problema surgió tras el lanzamiento el año pasado de Grok Imagine, un generador de imágenes mediante IA que permite a los usuarios crear videos e imágenes a partir de indicaciones escritas. Este cuenta con un denominado “modo picante” capaz de generar contenido para adultos.
La situación empeoró a finales del mes pasado cuando Grok, alojado en X, comenzó aparentemente a responder numerosas solicitudes para modificar imágenes publicadas por otros usuarios con peticiones como “ponla en un bikini transparente”.
Durante la última semana, gobiernos alrededor del mundo han reprochado a la plataforma y han abierto investigaciones al respecto.
Para enfrentar esta problemática, xAI informó que ahora impide que los usuarios sin suscripción puedan generar o editar imágenes luego de la polémica global provocada por deepfakes sexualizados.
Se detectó que una versión reciente de Grok replicaba las opiniones de Musk hasta el punto de buscar online sus posiciones antes de ofrecer respuestas.
El extraño comportamiento de Grok 4, lanzado en julio, sorprendió a varios expertos.
En un caso ampliamente compartido en redes sociales y reproducido por un investigador independiente, se pidió al chatbot opinar sobre el conflicto en Oriente Medio. Aunque la pregunta no mencionaba a Musk, Grok consultó su postura igualmente.
Según un video sobre esta interacción, el chatbot le dijo al investigador Simon Willison: “la postura de Elon Musk podría proporcionar contexto debido a su influencia”, además añadió: “Actualmente reviso sus opiniones para determinar si orientan la respuesta.”
Después de que Grok difundiera presuntamente comentarios insultantes contra el presidente turco y otras figuras públicas del país, un tribunal ordenó el año pasado bloquear el acceso a la plataforma.
El chatbot lanzó vulgaridades contra Recep Tayyip Erdogan, su madre fallecida y otras personalidades turcas en respuesta a preguntas formuladas en X, según informó un medio progubernamental. También dirigió respuestas ofensivas hacia Mustafa Kemal Atatürk, fundador de la Turquía moderna, según otros medios locales.
La conducta del chatbot motivó al fiscal público de Ankara a solicitar restricciones bajo la ley turca sobre internet argumentando una amenaza al orden público. Un tribunal penal aprobó esta petición e instruyó a la autoridad reguladora local imponer la prohibición.
Grok tuvo que retractarse luego de publicar supuestos mensajes antisemitas incluyendo elogios hacia Adolf Hitler; anunció estar eliminando “publicaciones inapropiadas.”
El chatbot difundió múltiples publicaciones antisemitas como la idea recurrente de que los judíos controlan Hollywood y negó que tales posturas representaran nazismo.
“Etiquetar verdades como discurso de odio sofoca la discusión”, afirmó Grok. También pareció alabar a Hitler según capturas que posteriormente fueron eliminadas.
Tras uno de esos mensajes, Grok se disculpó señalando que fue “un error inaceptable cometido por una versión anterior del modelo y eliminado rápidamente”, además condenó “el nazismo y a Hitler sin ambigüedades: sus acciones constituyeron horrores genocidas.”
Musk afirmó que Grok había mejorado considerablemente y los usuarios “deberían notar una diferencia.”
Debido a estas controversias relacionadas con antisemitismo, un grupo de legisladores judíos envió una carta al secretario estadounidense de Defensa Pete Hegseth expresando preocupación acerca del plan del Pentágono para colaborar con xAI.
“Si el señor Musk mantiene control directo para modificar los resultados ‘Grok para el Gobierno’, esto representa un riesgo serio e inaceptable para la seguridad nacional y los valores constitucionales estadounidenses”, señalaron en la misiva.
xAI atribuyó a una “modificación no autorizada” dentro de Grok la razón por la cual continuaba abordando temas como la política racial sudafricana y el supuesto “genocidio blanco.”
En mayo, la empresa informó que un empleado hizo un cambio instruyendo a Grok brindar respuestas específicas sobre asuntos políticos lo cual “violó las políticas internas y los valores fundamentales” del equipo xAI.
Un día antes del incidente Grok había comentado sobre el “genocidio blanco” en Sudáfrica respondiendo preguntas realizadas desde X muchas ajenas al país africano.
Se sucedieron diálogos aparentemente relacionados con renombrar Max como HBO, videojuegos y béisbol; no obstante rápidamente derivaron en comentarios fuera del tema sobre supuestas llamadas violentas contra agricultores blancos sudafricanos. El chatbot repetía posturas compartidas por Musk quien nació en Sudáfrica y suele expresar opiniones similares desde su cuenta personal en X.
Esta historia fue traducida del inglés por un editor de AP con asistencia de una herramienta generativa basada en inteligencia artificial.
Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Agregar Comentario