La nueva ley para el uso de la IA tendrá multas de hasta 35 millones de euros

El Gobierno implementará una ley que obliga a identificar los contenidos generados con inteligencia artificial (IA), como parte del buen uso de la tecnología.

En el anteproyecto, aprobado el martes por el Consejo de Ministros, el Gobierno establecerá sanciones de hasta 35 millones de euros o del 7% de la facturación de una empresa, para quienes hagan uso de la IA de forma perversa.

Con esta nueva medida sobre la utilización de la inteligencia artificial, el Ejecutivo busca asegurar el uso simplificado, «ético, inclusivo y beneficioso» de esta tecnología, de modo que los usuarios puedan distinguir entre un contenido real y uno virtual.

Los Angeles Times advierte de los peligros de la Inteligencia artificial y su sistema de IA genera una respuesta

El ministro para la Transformación Digital y de la Función Pública, Óscar López, ha subrayado la trascendencia de esta nueva norma y se ha referido a la inteligencia artificial como un «poderoso» instrumento que puede favorecer el crecimiento económico, favorecer la lucha contra muchas enfermedades o el desarrollo de nuevos fármacos, pero también ser una herramienta para difundir bulos, para expandir el odio y atacar a la democracia.

Óscar López, durante la rueda de prensa posterior al Consejo de Ministros, ha resumido además el contenido de un informe sobre el uso de la inteligencia artificial y su implementación en España, y ha destacado que el estudio señala que el PIB nacional podría crecer hasta un 8 por ciento -más de 100.000 millones de euros- en los próximos diez años si se aplica esta tecnología de forma correcta.

El ministro ha enmarcado el nuevo anteproyecto en el «escudo europeo» que protege los derechos digitales y que se complementa con el anteproyecto de ley de servicios digitales y los medios de comunicación y ha informado que la nueva norma adaptará la legislación española al reglamento europeo de Inteligencia artificial, que está ya en vigor.

Prohibidas las técnicas subliminales con IA

El anteproyecto, como el reglamento europeo, establece las prácticas prohibidas de la Inteligencia artificial, y entre ellas el uso de técnicas subliminales (como las imágenes o los sonidos imperceptibles) para manipular decisiones sin consentimiento, o el uso por ejemplo de un ‘chatbot’ que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online.

Apple anuncia su nuevo iPad Air: una versión más rápida y compatible con la IA

Prohibirá además explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios; el ministro ha citado como ejemplo que un juguete infantil habilitado con IA anime a los niños a completar retos que les pueden producir daños físicos graves.

La nueva norma prohíbe también la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual, la puntuación de individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos, o valorar el riesgo de que una persona cometa un delito basándose en datos personales como su historial familiar, su nivel educativo o su lugar de residencia.

Las sanciones que se pondrán para este tipo de sistemas oscilan entre los 7,5 y los 35 millones de euros, o entre el 2 y el 7 por ciento del volumen de negocio mundial de la empresa responsable, aunque en el caso de las pymes esa cuantía podrá ser inferior.

Contra la ‘ultrasuplantación’ o ‘deepfake’

El ministro ha informado durante la rueda de prensa que las autoridades u organismos encargados de vigilar los sistemas prohibidos serán la Agencia Española de Protección de Datos (para sistemas biométricos y gestión de fronteras); el Consejo General del Poder Judicial (para sistemas de IA en el ámbito de la justicia), la Junta Electoral Central (para sistemas que IA que afecten a procesos democráticos) y la Agencia Española de Supervisión de la Inteligencia Artificial en el resto de los casos.

Amazon lanza una nueva Alexa con «personalidad» que usa IA

La ley establece además, de acuerdo con el reglamento europeo, ‘sistemas de alto riesgo’, e incluye entre ellos todos los que se pueden añadir como elementos de seguridad a productos industriales, a juguetes, equipos radioeléctricos o productos sanitarios, o sistemas; los sistemas para la garantía del derecho, migración, asilo y gestión del control fronterizo; o los sistemas para su uso en la administración de justicia y en procesos democráticos.

Estos sistemas deben cumplir una serie de requisitos y en caso de incumplimientos se establecen también sanciones en función de la gravedad que pueden oscilar entre los 500.000 y los 7,5 millones de euros, o hasta el 2 y el 3 por ciento del volumen de negocio mundial del ejercicio anterior de la empresa responsable.

Entre las infracciones graves estará la de no cumplir con la obligación de etiquetar correctamente cualquier imagen, audio o vídeo que se generado o manipulado con IA y que muestren a personas reales o inexistentes diciendo o haciendo cosas que nunca han hecho o en lugares donde nunca han estado, lo que constituye una «ultrasuplantación» (deepfake).

Con información de EFE