El pasado 2 de febrero de 2025 entró en vigor el Reglamento de la UE sobre Inteligencia Artificial, que establece la prohibición de determinadas prácticas relacionadas con sistemas de Inteligencia Artificial (IA).
A continuación resumimos las principales prácticas afectadas desde la fecha indicada:
- Técnicas subliminales y manipuladoras: queda prohibido introducir en el mercado, poner en servicio o utilizar sistemas de IA que empleen técnicas subliminales o manipuladoras destinadas a alterar significativamente el comportamiento de las personas, afectando su capacidad para tomar decisiones informadas y causando perjuicios considerables.
- Puntuación ciudadana: está prohibido el uso de sistemas de IA para la puntuación ciudadana de personas físicas por parte de agentes públicos o privados, ya que estas prácticas pueden conducir a la discriminación y exclusión de ciertos grupos. Se permite realizar evaluaciones lícitas de acuerdo con la normativa vigente.
- Evaluaciones de riesgos basadas en perfiles: no se podrá utilizar IA para valorar o predecir el riesgo de que una persona cometa un delito basándose exclusivamente en perfiles personales o características de personalidad. Se permite el uso de sistemas que apoyen evaluaciones basadas en hechos objetivos y verificables.
- Categorización biométrica discriminatoria: está prohibida la utilización de sistemas de IA para clasificar a personas según datos biométricos que permitan deducir raza, opiniones políticas, afiliaciones sindicales, creencias religiosas, vida sexual u orientación sexual, salvo en casos relacionados con la gestión de datos biométricos adquiridos de manera lícita.
- Identificación biométrica remota en tiempo real: el uso de sistemas de IA para identificación biométrica remota en espacios públicos estará limitado a casos excepcionales, como la localización de víctimas, la prevención de amenazas graves o la identificación de sospechosos de delitos graves.
- Creación de bases de datos de reconocimiento facial: se prohíbe crear o ampliar bases de datos de reconocimiento facial extrayendo imágenes de internet o circuitos cerrados de televisión de forma no selectiva.
- Detección de estados emocionales: no se podrá utilizar sistemas de IA para detectar estados emocionales en el lugar de trabajo o en el ámbito educativo, excepto para fines estrictamente médicos o de seguridad.
Ten en cuenta estas prohibiciones si tu organización hace desarrollos basados en IA pero, también, si tu organización es usuaria de éstos pues, las herramientas deben cumplir la normativa vigente.
Más información en el siguiente enlace.
Redactado por Carlota Moreno, a fecha 06 de febrero de 2025.