Prohibido hacer deepfakes en España: si suplantas a alguien con IA te llevarás una multa bajo la nueva ley

Durante los últimos años, hemos podido comprobar el potencial negativo que tiene la generación de imágenes y vídeos por inteligencia artificial, usada por actores maliciosos para suplantar identidades, difundir información falsa, perpetrar estafas, crear contenido erótico sin consentimiento, y otro tipo de fines delictivos. España quiere ponerle freno a esto castigando con multa los contenidos artificiales sin identificación.

El Gobierno de España ha aprobado un proyecto de ley que impone sanciones significativas a las empresas que no etiqueten de manera adecuada el contenido generado por inteligencia artificial (IA). La iniciativa, alineada con la Ley de Inteligencia Artificial de la Unión Europea, busca combatir el uso de «deepfakes» y otras aplicaciones potencialmente perjudiciales de la IA.

El ministro de Transformación Digital, Óscar López, explicó que la normativa establece estrictas obligaciones de transparencia para los sistemas de IA considerados de alto riesgo. «La IA es una herramienta muy poderosa que puede utilizarse para mejorar nuestras vidas o para difundir desinformación y atacar la democracia«, afirmó.

El incumplimiento de la norma se considera una «infracción grave» y podría derivar en multas de hasta 35 millones de euros o el 7% de la facturación anual global de la empresa infractora. Además, la legislación prohíbe el uso de técnicas subliminales para influir en grupos vulnerables. Como ejemplo, López mencionó los chatbots que fomentan el juego compulsivo o los juguetes que incitan a los niños a participar en desafíos peligrosos.

El proyecto de ley también restringe la utilización de la IA para la clasificación biométrica y el perfilado conductual, con el objetivo de evitar la discriminación basada en características físicas o comportamentales para determinar la elegibilidad a beneficios o evaluar riesgos delictivos. No obstante, las autoridades podrán emplear vigilancia biométrica en tiempo real en espacios públicos por razones de seguridad nacional.

Para garantizar el cumplimiento de la normativa, se creará la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), encargada de su aplicación, salvo en ámbitos como privacidad de datos, investigaciones criminales, elecciones, calificaciones crediticias, seguros y mercados financieros, que seguirán bajo la supervisión de los organismos reguladores correspondientes.

El proyecto de ley, que se tramitará por la vía de urgencia, deberá recibir la aprobación del Congreso de los Diputados antes de su implementación definitiva.

Ejemplos en España

En nuestro país hemos podido comprobar a través de granjas de clicks, cadenas de WhastApp y redes la gran cantidad de vídeos falsos con los que los hackers han intentado estafar. Hemos visto suplantaciones de personalidades conocidas como los presentadores David Broncano, Pablo Motos, la cantante Rosalía o sobre el propio presidente del gobierno, Pedro Sánchez.

Estos vídeos falsos se utilizan luego para llevar a personas a estafas de criptomonedas, o como anzuelo para acabar cayendo en la estafa del amor, por ejemplo, con los conocidos casos del ‘falso Brad Pitt’ que se han dado ya en distintas partes del mundo.

The post Prohibido hacer deepfakes en España: si suplantas a alguien con IA te llevarás una multa bajo la nueva ley appeared first on ADSLZone.