AI Act y Recursos Humanos: la revolución regulatoria que transformará la gestión de personas en las empresas

La Inteligencia Artificial ha dejado de ser una tecnología del futuro para convertirse en una herramienta presente en el día a día de las organizaciones. Desde la selección de personal hasta la evaluación del desempeño, pasando por la planificación de plantillas, la formación personalizada o la gestión del talento, cada vez son más las empresas que incorporan soluciones basadas en IA para optimizar sus procesos y mejorar la toma de decisiones.

Sin embargo, junto a las oportunidades que ofrece esta tecnología, también surgen importantes interrogantes: ¿cómo garantizar que una decisión automatizada no sea discriminatoria? ¿Quién es responsable si un algoritmo perjudica a una persona candidata? ¿Cómo se protege la privacidad de los trabajadores? ¿Qué ocurre cuando una herramienta de IA influye en una contratación, una promoción o incluso un despido?

Para responder a estas cuestiones, la Unión Europea ha aprobado el Reglamento (UE) 2024/1689 sobre Inteligencia Artificial, más conocido como AI Act, la primera norma integral del mundo destinada a regular el uso de esta tecnología. Y si existe un ámbito donde esta regulación tendrá un impacto especialmente significativo, ese es sin duda el de los Recursos Humanos.

La Inteligencia Artificial ya está en Recursos Humanos

Muchas organizaciones utilizan herramientas de inteligencia artificial sin ser plenamente conscientes de ello. Hoy en día es habitual encontrar soluciones que permiten:

• Filtrar automáticamente currículums.

• Clasificar candidaturas según criterios predefinidos.

• Analizar entrevistas mediante reconocimiento de voz o lenguaje.

• Evaluar competencias profesionales.

• Identificar perfiles con potencial de promoción.

• Detectar riesgos de rotación o abandono.

• Medir niveles de productividad.

• Personalizar planes de formación.

• Elaborar informes de desempeño.

• Gestionar turnos y asignación de tareas.

Estas herramientas prometen mayor rapidez, eficiencia y objetividad. Sin embargo, también pueden generar riesgos importantes cuando influyen sobre decisiones que afectan directamente a la carrera profesional y a los derechos de las personas.

Precisamente por este motivo, el AI Act considera que muchas aplicaciones de IA utilizadas en Recursos Humanos son sistemas de alto riesgo.

¿Qué es exactamente el AI Act?

El AI Act es el nuevo marco normativo europeo para la inteligencia artificial. Su objetivo principal es garantizar que los sistemas de IA utilizados en el territorio de la Unión Europea sean seguros, transparentes, trazables, supervisados y respetuosos con los derechos fundamentales.

La filosofía de la norma es sencilla: cuanto mayor sea el riesgo que un sistema puede generar para las personas, mayores serán las obligaciones que deberá cumplir.

Por ello, el reglamento clasifica las aplicaciones de inteligencia artificial en diferentes niveles de riesgo.

Sistemas prohibidos

Se consideran incompatibles con los valores europeos y quedan directamente prohibidos determinados usos de la IA, como:

• Sistemas de manipulación subliminal.

• Técnicas destinadas a alterar el comportamiento de las personas de forma perjudicial.

• Sistemas de puntuación social.

• Determinadas formas de reconocimiento emocional en el ámbito laboral.

• Algunos sistemas de vigilancia biométrica masiva.

Sistemas de alto riesgo

Son aquellos que pueden afectar significativamente a los derechos fundamentales de las personas.

Dentro de esta categoría se encuentran numerosos sistemas utilizados en Recursos Humanos.

Sistemas de riesgo limitado

Incluyen herramientas como asistentes virtuales o chatbots, donde la principal obligación consiste en informar claramente a las personas de que están interactuando con una inteligencia artificial.

Sistemas de riesgo mínimo

Son aplicaciones cotidianas con bajo impacto sobre los derechos de las personas y apenas están sujetas a obligaciones específicas.

¿Por qué Recursos Humanos es considerado un ámbito de alto riesgo?

La respuesta es evidente: porque las decisiones relacionadas con el empleo tienen consecuencias directas sobre la vida de las personas.

Un algoritmo puede influir en:

• Quién accede a una entrevista.

• Quién es contratado.

• Quién recibe formación.

• Quién obtiene una promoción.

• Quién es considerado de alto potencial.

• Quién es evaluado positivamente.

• Quién recibe determinados incentivos.

Cuando estas decisiones se apoyan en sistemas automatizados, existe el riesgo de que se produzcan errores, sesgos o discriminaciones difíciles de detectar.

Por ello, el AI Act presta una atención especial a cualquier sistema que participe en procesos relacionados con:

Selección y contratación

Las herramientas que analizan currículums, clasifican candidaturas o recomiendan perfiles deberán demostrar que funcionan de forma fiable y no discriminatoria.

Promoción profesional

Los sistemas utilizados para identificar talento o proponer promociones también estarán sometidos a controles específicos.

Evaluación del rendimiento

Las herramientas que analizan productividad, desempeño o cumplimiento de objetivos deberán garantizar transparencia y supervisión humana.

Organización del trabajo

Los algoritmos que asignan tareas, horarios o recursos humanos también pueden verse afectados por la regulación.

El gran problema: los sesgos algorítmicos

Uno de los principales motivos que ha llevado a la aprobación del AI Act es la preocupación por los llamados sesgos algorítmicos.

Los algoritmos aprenden a partir de datos históricos. Si esos datos reflejan desigualdades previas, el sistema puede reproducirlas sin que nadie lo detecte.

Por ejemplo:

• Un algoritmo entrenado con contrataciones históricas podría favorecer perfiles masculinos para puestos tradicionalmente ocupados por hombres.

• Una herramienta de selección podría penalizar determinados patrones lingüísticos asociados a ciertos colectivos.

• Un sistema de evaluación podría valorar de forma diferente a personas con distintos estilos de comunicación.

Lo preocupante es que estas situaciones pueden producirse incluso cuando la organización no tiene ninguna intención discriminatoria.

La discriminación puede ser indirecta, invisible y completamente involuntaria.

La relación entre IA, igualdad y diversidad

La aplicación de la inteligencia artificial en Recursos Humanos está estrechamente vinculada a las políticas de igualdad y diversidad.

Cada vez más expertos consideran que las auditorías algorítmicas deberían formar parte de los sistemas de gestión de igualdad.

Las organizaciones deberán analizar posibles impactos relacionados con:

• Sexo y género.

• Edad.

• Discapacidad.

• Nacionalidad.

• Origen étnico.

• Orientación sexual.

• Identidad o expresión de género.

• Situación familiar.

Esta cuestión será especialmente relevante para las empresas que ya cuentan con:

• Planes de Igualdad.

• Planes LGTBI.

• Protocolos de diversidad e inclusión.

• Sistemas de compliance.

• Políticas ESG.

Las nuevas obligaciones para las empresas

La adaptación al AI Act exigirá a muchas organizaciones revisar profundamente sus procedimientos internos.

Entre las principales obligaciones destacan:

Inventariar las herramientas de IA

El primer paso será identificar qué aplicaciones utilizan inteligencia artificial y para qué finalidad.

Muchas empresas descubrirán que ya utilizan sistemas de IA integrados en software de RRHH, selección o productividad sin haber realizado una evaluación específica.

Evaluar riesgos

Será necesario analizar el impacto potencial de estas herramientas sobre los derechos de las personas trabajadoras y candidatas.

Garantizar supervisión humana

Las decisiones importantes no podrán quedar completamente automatizadas.

Siempre deberá existir una persona capaz de revisar, corregir y justificar la decisión final.

Asegurar la transparencia

Las personas deberán conocer cuándo están siendo evaluadas o analizadas mediante sistemas de inteligencia artificial.

Revisar proveedores

Las empresas tendrán que exigir garantías a los desarrolladores y proveedores tecnológicos con los que trabajen.

Formar a responsables y equipos

No será suficiente con implantar tecnología. Será necesario que las personas que la utilizan comprendan sus riesgos, limitaciones y obligaciones legales.

¿Qué papel jugará Recursos Humanos en los próximos años?

Los departamentos de Recursos Humanos se convertirán en una de las áreas clave para la implantación del AI Act.

La gestión de personas dejará de centrarse únicamente en cuestiones laborales o de talento para incorporar nuevos ámbitos relacionados con:

• Gobernanza de la inteligencia artificial.

• Evaluación de riesgos éticos.

• Transparencia algorítmica.

• Protección de derechos fundamentales.

• Supervisión tecnológica.

• Prevención de discriminaciones automatizadas.

La colaboración entre Recursos Humanos, Compliance, Protección de Datos, Sistemas y Dirección será cada vez más necesaria.

Las sanciones pueden ser muy importantes

El AI Act contempla sanciones económicas significativas para los incumplimientos más graves.

Dependiendo de la infracción, las multas pueden alcanzar hasta:

• 35 millones de euros, o

• El 7 % de la facturación mundial anual de la organización.

Aunque estas cuantías están principalmente orientadas a los incumplimientos más graves, reflejan claramente la importancia que la Unión Europea concede a esta materia.

La oportunidad detrás de la regulación

Más allá de las obligaciones legales, el AI Act representa una oportunidad para construir organizaciones más transparentes, responsables y centradas en las personas.

Las empresas que adopten desde ahora modelos de gobernanza de la inteligencia artificial estarán mejor preparadas para afrontar los cambios regulatorios y tecnológicos que marcarán los próximos años.

La inteligencia artificial puede convertirse en una extraordinaria aliada para la gestión del talento, siempre que se utilice de forma ética, transparente y responsable.

El futuro de los Recursos Humanos no consistirá en sustituir a las personas por algoritmos, sino en utilizar la tecnología para tomar mejores decisiones sin perder de vista aquello que realmente da valor a una organización: las personas.

Desde Baladre Desarrollo acompañamos a empresas y entidades en la adaptación al AI Act mediante diagnósticos de cumplimiento, formación especializada, evaluación de riesgos, elaboración de políticas internas de inteligencia artificial y desarrollo de sistemas de gobernanza que permitan aprovechar todo el potencial de esta tecnología garantizando el respeto a los derechos fundamentales y el cumplimiento de la normativa europea.