Elon Musk, propietario de la red social X y de la plataforma de inteligencia artificial Grok, anunció la limitación de la generación y edición de imágenes dentro de la aplicación tras una avalancha de quejas por la difusión de contenido sexual y violento no consentido.
La decisión se produce a finales de año, después de que usuarios y Gobiernos alertaran sobre posibles vulneraciones del derecho a la propia imagen, la intimidad y el honor, y ante la amenaza de sanciones y prohibiciones, incluida la planteada en España.
LEA TAMBIÉN
Restricción de funciones tras la expansión de contenido no consentido
Durante las últimas semanas, X registró una rápida proliferación de imágenes y vídeos sexualizados de mujeres y niñas sin su consentimiento, así como representaciones de agresiones y asesinatos simulados generados mediante Grok. La difusión se produjo a un ritmo superior al de la intervención de los organismos reguladores, lo que incrementó la presión institucional sobre la plataforma.
El miércoles, la ministra de Juventud e Infancia, Sira Rego, solicitó por escrito a la Fiscalía General del Estado que investigue a X y a su sistema de IA por presuntos delitos de difusión de material de violencia sexual contra la infancia. La iniciativa se suma a las acciones de otros Gobiernos europeos que han planteado sanciones e incluso la posible prohibición de la red social.
Elon Musk habló de su IA. Foto:Jim Watson. AFP
El anuncio de Musk y la responsabilidad legal
Ante la controversia, Musk publicó en X que “la generación y edición de imágenes se limita a suscriptores de pago”. La medida no elimina la capacidad de crear este tipo de contenidos, sino que restringe su acceso a usuarios identificables, que asumen la responsabilidad directa de su uso.
El empresario defendió que la responsabilidad legal recae en el usuario, no en la plataforma. “Cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido”, afirmó.
LEA TAMBIÉN
Grok Foto:x.ai
Críticas de expertos en privacidad y derecho digital
El director de la Cátedra de Privacidad y Transformación Digital de la Universidad de Valencia, Ricard Martínez, advirtió de la ilegalidad de la erotización no consentida, incluso cuando se presenta como recreación. “No se puede sexualizar sin consentimiento ninguna imagen. El uso de la imagen de una persona para sexualizarla constituye un comportamiento ilícito”, señaló.
Martínez discrepó del planteamiento de Musk y subrayó que la responsabilidad es compartida entre los creadores y las plataformas digitales, que, según la normativa vigente, están obligadas a analizar y prevenir de forma proactiva la generación y difusión de contenidos ilícitos.
LEA TAMBIÉN
Críticas de expertos en privacidad y derecho digital Foto:iStock
Riesgos asociados: extorsión y sextorsión
Además de la vulneración de derechos fundamentales, los expertos alertan de que este tipo de imágenes puede alimentar campañas de extorsión, conocidas como sextorsión, una práctica delictiva en expansión que afecta especialmente a mujeres y menores.
La Nación (Argentina) / GDA.
Más noticias en EL TIEMPO
*Este contenido fue reescrito con la asistencia de una inteligencia artificial, basado en información de la información de La Nación (GDA), y contó con la revisión de la periodista y un editor.