Meta demanda a la empresa que promocionaba una aplicación para «desnudar» a las personas

Meta ha demandado en Hong Kong a la entidad que se encuentra detrás de las aplicaciones CrushAI, que permiten «desnudar» a personas o crear imágenes sexualmente explícitas generadas por inteligencia artificial (IA) sin consentimiento, para evitar que anuncien sus servicios en las plataformas Meta.

En un comunicado, la empresa matriz de Facebook, WhatsApp e Instagram explicó que «esto se produce tras múltiples intentos de Joy Timeline HK Limited (la entidad detrás de CrushAI) de eludir el proceso de revisión de anuncios de Meta y seguir publicando estos anuncios, luego de ser eliminados repetidamente» por infringir sus normas.

La empresa tecnológica destaca que esta acción legal «subraya la seriedad» con la que se toman este abuso y su compromiso de hacer todo lo posible para proteger a su comunidad de usuarios.

«Seguiremos tomando las medidas necesarias, que podrían incluir acciones legales, contra quienes abusen de nuestras plataformas de esta manera», apunta la empresa.

Eminem demandó a Meta por $109 millones

Las medidas de Meta 

El gigante tecnológico señala que elimina «constantemente» anuncios en páginas de Facebook y cuentas de Instagram que promocionan estos servicios y que bloquean los enlaces a sitios web que los alojan para que no se pueda acceder a ellos desde las plataformas Meta.

Asimismo, apunta que restringen términos de búsqueda como «desnudar», «desvestir» y «eliminar ropa» en Facebook e Instagram.

«Algunos usan imágenes inocuas en sus anuncios para evitar ser detectados por nuestra tecnología de detección de desnudos, mientras que otros crean rápidamente nuevos nombres de dominio para reemplazar los sitios web que bloqueamos», se lamenta la plataforma.

En ese sentido, Meta apunta que está trabajando con expertos externos para ampliar la lista de términos, frases y emojis para detectar este tipo de anuncios.

Meta también indica que compartirá información sobre estas aplicaciones con otras empresas tecnológicas para que también puedan abordarlas en sus respectivas plataformas.

La publicidad de esta aplicación en Meta

En Estados Unidos (EEUU), varios investigadores han alertado sobre el auge de estas aplicaciones que usan IA para desnudar a personas sin su consentimiento que se pueden encontrar en línea, en las tiendas de aplicaciones y en la plataforma publicitaria de Meta.

Instagram y WhatsApp en riesgo: Meta se enfrenta a un juicio por monopolio

El senador Dick Durbin, demócrata de Illinois, envió una carta en febrero al director ejecutivo de Meta, Mark Zuckerberg, instándolo a abordar el papel de su empresa al permitir que Joy Timeline publicara anuncios que violan las normas de Meta sobre desnudez adulta, actividad sexual y «ciertas formas de acoso e intimidación».

La carta de Durbin citaba un informe del medio de noticias tecnológicas 404 Media y una investigación de Alexios Mantzarlis, de Cornell Tech, que reveló que al menos 8.010 anuncios relacionados con CrushAI se publicaron en las aplicaciones de Meta durante las dos primeras semanas de este año, según CNBC.

Con información de EFE