Tras varias denuncias y acciones legales, Elon Musk dio su brazo a torcer: X, antes Twitter, anunció la restricción de su inteligencia artificial Grok para impedir la creación y edición de imágenes de personas reales en situaciones comprometedoras, sexuales, en ropa interior o desnudas.
Esta decisión surge tras una intensa presión pública y política, motivada por reportes sobre la generación de desnudos no consentidos y representaciones sexualizadas, incluso de menores de edad, con ayuda de Grok y de manera masiva.
LEA TAMBIÉN
La compañía detalló a través de su cuenta oficial de seguridad que las restricciones buscan evitar que el sistema procese solicitudes para mostrar a individuos reales en prendas como bikinis o ropa interior.
No más fotos sexualizadas en Grok
Las limitaciones técnicas para evitar esta capacidad se basan en cambios en su modelo de suscripción. Entre los puntos principales de esta actualización se encuentran:
- Limitación del acceso a las herramientas de creación y edición de imágenes exclusivamente para suscriptores de pago.
- Bloqueo geográfico de funciones de generación de imágenes de personas en ropa interior en jurisdicciones donde este tipo de contenido es ilegal.
- Aplicación de estas prohibiciones a todos los niveles de usuario, sin excepción para las cuentas Premium.
LEA TAMBIÉN
A pesar del anuncio, la implementación parece enfrentar desafíos técnicos. Mientras la empresa asegura que las medidas están en vigor, pruebas realizadas por medios especializados como The Verge sugieren que aún es posible sortear ciertos filtros mediante el uso de aplicaciones móviles o versiones web, permitiendo la alteración de fotografías de figuras públicas hacia contextos sexualizados.
Elon Musk restringe a la IA Grok, de X, opción de ‘desnudar’ personas reales Foto:Imagen generada con inteligencia artificial
La postura de Elon Musk y el marco legal
Elon Musk, propietario de la red social, ha defendido el funcionamiento de su herramienta alegando que el sistema no actúa por cuenta propia.
“Grok no genera imágenes de forma espontánea, solo lo hace de acuerdo con las solicitudes de los usuarios”, afirmó el empresario a través de una publicación en X, según reportó Forbes.
Musk también enfatizó que la inteligencia artificial está programada para obedecer las leyes locales y que cualquier falla se debe a intentos externos de manipular los comandos del chat, asegurando que “si eso sucede, corregimos el error de inmediato”.
No obstante, las autoridades mantienen un tono de vigilancia estricta. En el Reino Unido, el primer ministro Keir Starmer confirmó que se ha mantenido comunicación directa con la empresa para exigir el cumplimiento de la normativa británica.
LEA TAMBIÉN
“Le hemos dejado claro a X que estas imágenes son ilegales, reprobables y deben ser abordadas”, declaró el mandatario en declaraciones recogidas por Forbes, añadiendo que, aunque han sido informados sobre las acciones de la compañía, no bajarán la guardia.
Investigaciones en curso
La situación ha escalado al terreno judicial en Estados Unidos. El fiscal general de California, Rob Bonta, inició una investigación formal contra xAI, la empresa detrás de Grok, bajo la acusación de facilitar la producción masiva de “deepfakes” íntimos no consentidos.
Según la oficina del fiscal, se ha recibido un volumen considerable de denuncias que señalan cómo estas herramientas están siendo utilizadas para el acoso de mujeres y niñas en internet.
El objetivo de las autoridades es determinar si la tecnología de Musk ha vulnerado las leyes de protección y privacidad, en un momento donde la ética en la inteligencia artificial se ha convertido en una prioridad para los reguladores globales.
*Artículo desarrollado con apoyo de IA y revisado por un periodista.