Diez claves y ejemplos de la nueva ley de inteligencia artificial

1 .- Prohíbe usar técnicas subliminales (como imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento. Por ejemplo, un 'chatbot' (asistente digital) que identifica a un usuario adicto al juego y le incita a entrar en plataformas de juego.

2 - Prohíbe explotar vulnerabilidades relacionadas con la edad o la discapacidad para alterar comportamientos y puedan además provocar daños o perjuicios. Por ejemplo, un juguete infantil con IA que anima a los niños a completar retos que pueden ser peligrosos.

3 .- Prohíbe la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual. Por ejemplo, los sistemas capaces de deducir la orientación política o sexual de una persona a partir del análisis de sus fotos en redes sociales.

4 .- Prohíbe usar sistemas de IA para puntuar a las personas basándose en comportamientos sociales o rasgos personales, como método de selección; por ejemplo utilizar esos sistemas para decidir si se concede o no una subvención o un crédito.

5.- Prohíbe usar sistemas de 'manipulación cognitiva' o de 'reconocimiento de emociones'; por ejemplo una empresa que utilice un sistema de IA para analizar la cara, la voz o los gestos de su plantilla y decidir quién está desmotivado o estresado y tomar decisiones laborales.

6.- El proyecto clasifica también como 'inaceptable' la vigilancia predictiva; por ejemplo evaluar el riesgo de que una persona cometa delitos basándose solo en perfiles o rasgos personales.

7 .- Prohíbe el uso de sistemas de IA que generen 'deepfakes' sexuales, así como crear o manipular contenido sexual realista que identifique a personas físicas; por ejemplo la publicación de desnudos creados por 'Grok', el asistente virtual de la red social X.

8.- Prohíbe totalmente la generación o la alteración de contenido de pornografía infantil mediante cualquier sistema de inteligencia artificial.

9 .- Las sanciones por las infracciones más graves pueden alcanzar los 35 millones de euros -o hasta el 7 por ciento del volumen de negocio mundial de una empresa-. La ley excluye a las administraciones públicas del pago de multas en caso de infracciones, aunque sí prevé apercibimientos y medidas de carácter disciplinario (entre otras medidas coercitivas) para los funcionarios que hagan un mal uso de la IA.

10.- Sí permite, pero están clasificados como de "alto riesgo", los sistemas de IA que se emplean en ámbitos como la selección de personal, la justicia, o la educación; por ejemplo, una IA que genera un borrador de sentencia sin que un juez revise el razonamiento jurídico final o el uso algoritmos de cribado que incluyan sesgos para proponer candidatos.