Grok de Elon Musk desata reacción mundial por imágenes deepfake no consentidas

Aunque xAI de Elon Musk adopta una postura firme a favor de la libertad de expresión amplia, la empresa ha sido objeto de escrutinio tras informes de que su chatbot, Grok, ha generado contenido deepfake con personas reales cuando los usuarios lo solicitan sin su consentimiento. Esta situación expone una tensión entre promover la expresión sin restricciones y la responsabilidad de evitar resultados poco éticos o ilegales derivados de la IA.

Capacidades deepfake de Grok y uso controversial

Grok puede producir imágenes deepfake altamente realistas en segundos y publicarlas en línea en hilos sin pedir permiso. Los usuarios pueden activar el chatbot etiquetándolo bajo una foto y dando comandos que alteran la apariencia de una persona de forma sexualizada. Comandos como «ponla en un bikini pequeño…» o «quítale la ropa» se han compartido públicamente.

El mal uso de Grok ha provocado críticas entre usuarios de X. Randi Hipper, educadora de activos digitales, descubrió que una foto suya con ropa de gimnasio había sido alterada para mostrarla en bikini tras el comando de otro usuario al chatbot. Ella describió el resultado como inapropiado e incómodo, destacando el impacto personal de dicho contenido generado por IA.

Para explorar las capacidades de Grok, la periodista y sobreviviente de abuso sexual infantil Samantha Smith realizó una prueba. Subió una foto antigua de ella de niña con un traje de comunión y le pidió a Grok que creara una imagen de ella en bikini. El chatbot cumplió, y Samantha reaccionó con shock, describiéndolo como inquietantemente real y profundamente perturbador.

Ante la creciente preocupación por el mal uso de la IA para generar contenido ilegal o explotador, Elon Musk publicó en X, «cualquier persona que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal.»

Explotación de Grok para contenido adulto y político

Mientras tanto, algunos usuarios siguen explotando Grok para contenido orientado a adultos y mensajes políticos, utilizando el chatbot de diferentes maneras:

• Creadores de contenido adulto, incluyendo modelos de OnlyFans e intérpretes eróticas, han usado Grok para aumentar el compromiso alentando a seguidores a generar imágenes con ropa quitada, produciendo millones de impresiones en línea.
• Otros han utilizado el chatbot para fines políticos, como alterar imágenes de figuras públicas. Un ejemplo involucró a un usuario que subió una foto de Donald Trump con Puff Daddy y le indicó a Grok «quita al pedófilo.»

Escrutinio e investigaciones gubernamentales

Reguladores de todo el mundo están comenzando a examinar más de cerca el uso de Grok. El portavoz de la Comisión Europea, Thomas Regnier, declaró en una conferencia de prensa que la autoridad «está tomando este asunto muy en serio.» Señaló que Grok en X permite a los usuarios generar material sexualmente explícito, incluidas imágenes con características infantiles, y enfatizó que crear o compartir tal contenido es ilegal y no tiene lugar en Europa.

En Malasia, la Comisión de Comunicaciones y Multimedia (MCMC) emitió un comunicado el 3 de enero expresando seria preocupación por las quejas públicas sobre manipulación de imágenes generadas por IA en X. La comisión dijo que «iniciará investigaciones sobre usuarios de X presuntamente violadores de la CMA.»

Las autoridades francesas también indicaron que investigarán el uso de Grok en producir imágenes falsas de contenido adulto, tras reportes de numerosas mujeres y adolescentes de fotos alteradas circulando en línea.

xAI abordó estas preocupaciones en su cuenta oficial de Seguridad en X, afirmando que toma «medidas contra el contenido ilegal en X, incluido el Material de Abuso Sexual Infantil (CSAM), removiéndolo, suspendiendo cuentas definitivamente y colaborando con gobiernos y fuerzas del orden cuando es necesario.» Además, el empleado de xAI Ethan He señaló que Grok Imagine ha sido actualizado, aunque aún no está claro si los cambios previenen la generación de contenido sexual ilegal o inapropiado.

Un estudio de 2023 realizado por la empresa de ciberseguridad Home Security Heroes encontró que la pornografía deepfake representa aproximadamente el 98% de todos los videos deepfake en línea, con mujeres representando el 99% de los sujetos, mostrando la escala amplia del abuso.