El avance tecnológico y la creciente interconexión de dispositivos y plataformas digitales han dado lugar a la necesidad de regular y salvaguardar la privacidad y los derechos de los ciudadanos.
Novedades en materia de protección de datos
La legislación europea ha desempeñado un papel fundamental en la protección de datos en el entorno empresarial.
Ley Europea de Inteligencia Artificial (IA)
La recientemente aprobada regulación de la inteligencia artificial (IA) en la Unión Europea ha establecido categorías de riesgo, desde alto hasta inaceptable, y ha prohibido ciertos sistemas y aplicaciones. La ley se aplicará tanto a empresas dentro del bloque como a aquellas ubicadas fuera de la UE que desarrollen e implementen sistemas de IA en su territorio.
La prohibición total se aplica a sistemas como el reconocimiento facial en tiempo real en espacios públicos, herramientas policiales predictivas y sistemas de puntuación social, similares a los utilizados en China, que asignan una «puntuación de salud» a las personas según su comportamiento. Estos sistemas se consideran de alto riesgo y están prohibidos debido a los daños potenciales que pueden causar a la salud, seguridad, derechos fundamentales y medio ambiente de las personas.
La regulación también impone restricciones estrictas a las aplicaciones de IA de alto riesgo, que incluyen sistemas utilizados para influir en los votantes en elecciones y plataformas de redes sociales con más de 45 millones de usuarios que recomiendan contenido. Esto afectaría a grandes plataformas como Facebook, Twitter e Instagram. La ley también exige transparencia en los sistemas de IA, como la revelación de que el contenido es generado por IA, la distinción entre imágenes falsas y reales, y salvaguardias contra la generación de contenido ilegal. Además, se deben publicar resúmenes detallados de los datos protegidos por derechos de autor utilizados para entrenar estos sistemas de IA.
En cuanto a las sanciones, aquellos que infrinjan las prácticas prohibidas de IA pueden enfrentar multas significativas. Las multas pueden ascender hasta 40 millones de euros o un máximo del 7% de la facturación anual global de una empresa, lo que sea mayor.. El GDPR permite multas de hasta 10 millones de euros o hasta el 2% de la facturación global de una empresa.
Estas multas en virtud de la ley de IA se consideran una forma de que los legisladores hagan un llamado para que se tome en serio la protección de datos y los riesgos asociados con la IA.
