X lanza el blindaje contra Grok para evitar alteraciones de imágenes

La red social X (antes Twitter) ha iniciado el despliegue de una herramienta defensiva diseñada para devolver el control de la imagen a sus usuarios.

En medio de un debate global sobre la ética de la inteligencia artificial (IA), la plataforma de Elon Musk ha comenzado a probar una opción que impide que Grok, su asistente de IA, sea utilizado por terceros para alterar fotografías compartidas.

Esta decisión surge tras una serie de fallos de seguridad que permitieron la manipulación indebida de archivos visuales, transformando publicaciones cotidianas en contenido problemático o difamatorio.

Hasta la fecha, la arquitectura de X facilitaba una interacción directa con la IA: bastaba con mencionar al chatbot en la respuesta a una imagen para que este generara una versión modificada según las instrucciones del solicitante.

Sin embargo, lo que se ideó como una función creativa derivó en un grave incidente de seguridad. Los filtros de Grok fueron vulnerados por usuarios que solicitaron la creación de versiones sexualizadas de fotografías reales, afectando tanto a figuras públicas como a usuarios anónimos, incluyendo casos de menores de edad.

Las cifras de este fenómeno son alarmantes. Según informes internos y análisis de seguridad, el sistema llegó a procesar más de tres millones de imágenes de naturaleza sexualizada, de las cuales aproximadamente 23.000 involucraban a menores.

Grok de Elon Musk se actualiza con IA de anime sexualizada y panda provocador

Ante la gravedad de la situación y la presión de organismos de protección digital, X ha introducido la función "Bloquear modificaciones de Grok", un interruptor de privacidad que inhabilita la capacidad del asistente para interactuar con archivos específicos subidos por el autor original.

El proceso de activación de esta barrera digital es manual y se gestiona durante la carga del contenido.

Tal como han verificado portales especializados como The Verge, el usuario debe acceder al icono de edición (el pincel) tras subir la imagen, seleccionar el símbolo de la bandera y marcar la casilla correspondiente al bloqueo.

Una vez habilitada, cualquier intento de otro usuario por invocar a Grok en la conversación para modificar dicha fotografía será rechazado automáticamente por el sistema, sin distinción entre cuentas gratuitas o suscriptores de pago.

La proliferación de deepfakes y herramientas de edición por IA ha puesto en jaque a las grandes tecnológicas. La Unión Europea (UE), bajo la Ley de Inteligencia Artificial, exige a las plataformas implementar mecanismos claros de transparencia y protección para evitar la creación de contenido dañino sin consentimiento, un marco legal que X intenta cumplir con este tipo de actualizaciones.

No obstante, la solución actual presenta limitaciones geográficas y técnicas. Por el momento, este blindaje solo está operativo en la versión de X para dispositivos iOS, dejando fuera a los usuarios de la web y de Android.

Además, los expertos advierten de una brecha crítica: aunque el bloqueo funciona dentro de la cronología de la red social, no impide que un tercero descargue la imagen original y la procese externamente en la aplicación independiente de Grok, evidenciando que la batalla por la integridad visual en internet aún está lejos de concluir.

Con información de 20minutos