Usted tiene automatizada una parte del sistema de selección de personal. ¿Sabía que puede tratarse de IA de alto riesgo, y según los datos que maneje y cómo los trate, podría estar obligado a adoptar determinadas medidas?
Vea cómo identificar si es su caso y qué debe hacer.
Reglamento Europeo sobre Inteligencia Artificial (IA)
Antes de nada recordemos que el Reglamento Europeo sobre Inteligencia Artificial (RIA) establece normas para garantizar el uso seguro y ético de la IA en las empresas (evitando sesgos, discriminación, etc.) y señala quién responde en caso de hacer un mal uso de esta herramienta.
Uno de los puntos clave que debe tener en cuenta es si usted utiliza sistemas de IA considerados de “alto riesgo”, pues en tal caso debe atenerse a la normativa.
¿Que es una IA de alto riesgo?
Derechos.
Dado que el objetivo es salvaguardar los derechos fundamentales de las personas y su seguridad, el RIA categoriza ciertos sistemas de IA de “alto riesgo” por su posible impacto en esos derechos.
Se catalogan como de alto riesgo, entre otros:
- Los sistemas de IA utilizados en la contratación laboral (para seleccionar candidatos).
- Los usados para determinar el acceso a servicios públicos (préstamos o subvenciones).
- La IA empleada en la evaluación de riesgos de crédito o en decisiones médicas.
IA y Personal
En el ámbito de las empresas, el RIA hace hincapié en el uso de la IA de alto riesgo cuando ésta afecta a la toma de decisiones (contratación y selección de personal –anuncios de empleo, filtrado y evaluación de candidatos…–, condiciones de trabajo e incluso despidos).
Si su empresa utiliza IA de alto riesgo cuyas decisiones guardan relación con estas áreas (criba currículums, selecciona empleados para una posible promoción…), está utilizando un sistema de alto riesgo y debe adoptar medidas al respecto .
ChatGPT: La revolución de la inteligencia artificial en la comunicación
ChatGPT es un modelo de lenguaje desarrollado por OpenAI que utiliza inteligencia artificial para generar texto coherente. Seamos sinceros, las...
No toda automatización es igual: analice qué papel tiene la IA en su empresa
Muchas empresas utilizan herramientas digitales sin ser plenamente conscientes de que incorporan inteligencia artificial. Puede ocurrir con plataformas de recursos humanos, programas de gestión documental, soluciones de atención al cliente, sistemas de puntuación comercial o aplicaciones que ayudan a ordenar solicitudes, detectar patrones o recomendar decisiones.
Por eso, el primer paso práctico no es pensar sólo en grandes desarrollos tecnológicos, sino revisar qué herramientas se usan a diario y qué función cumplen realmente. No es lo mismo un programa que almacena currículums que otro que los clasifica, puntúa candidatos o descarta perfiles de forma automática. Tampoco es lo mismo una herramienta que ayuda a redactar un anuncio de empleo que otra que decide qué personas pasan a la siguiente fase del proceso.
En la práctica, conviene hacer un pequeño mapa interno de usos de IA. Este inventario debe indicar qué departamento utiliza cada herramienta, para qué finalidad, qué datos introduce, qué resultado genera y quién toma la decisión final. Esta revisión permite detectar riesgos que, de otro modo, pasarían desapercibidos.
Además, es recomendable diferenciar entre sistemas puramente auxiliares y sistemas que influyen de forma directa en personas. Cuando la herramienta afecta a oportunidades laborales, acceso a servicios, condiciones económicas o valoración de perfiles, el nivel de precaución debe aumentar. Una asesoría puede ayudarle a ordenar esta información y a determinar qué medidas preventivas conviene adoptar antes de que el uso de la IA genere problemas legales o laborales.
La decisión final debe seguir teniendo control humano
Aunque una herramienta de IA sea muy avanzada, la empresa no debería delegar decisiones sensibles sin intervención humana real. Este punto es especialmente importante en selección de personal, promociones internas, evaluación del rendimiento o asignación de tareas. La IA puede servir como apoyo, pero no debe convertirse en una “caja negra” que decida por la empresa sin que nadie entienda el razonamiento seguido.
El control humano no consiste únicamente en que una persona pulse un botón al final del proceso. Debe existir una revisión efectiva, con capacidad para corregir, matizar o incluso rechazar la recomendación del sistema. Por ejemplo, si una herramienta ordena candidatos en función de determinados criterios, la empresa debe poder comprobar si esos criterios son razonables, si están relacionados con el puesto y si no perjudican injustificadamente a determinados colectivos.
También es aconsejable dejar constancia interna de quién revisa las decisiones y bajo qué criterios lo hace. Esto aporta seguridad en caso de reclamación de un candidato, trabajador o inspector. Si una persona considera que ha sido descartada injustamente, la empresa estará en mejor posición si puede explicar que hubo una revisión humana, que se valoraron criterios objetivos y que la IA no actuó como único elemento decisorio.
La clave está en usar la tecnología para ganar eficiencia, pero sin perder responsabilidad. La empresa sigue siendo responsable de sus procesos, aunque utilice un programa externo o una solución contratada a un proveedor especializado.
Revise los datos que introduce en el sistema
Uno de los errores más habituales es centrarse en la herramienta y olvidarse de los datos. Sin embargo, la calidad y el tipo de información utilizada pueden determinar si el sistema genera resultados fiables o, por el contrario, decisiones sesgadas. Una IA alimentada con datos incompletos, antiguos o poco representativos puede reproducir errores sin que la empresa lo advierta.
En procesos de selección, por ejemplo, conviene revisar si se están utilizando datos estrictamente necesarios para valorar la idoneidad profesional. Deben evitarse variables que puedan tener un efecto discriminatorio, aunque aparentemente sean neutras. El domicilio, la edad, determinados periodos de inactividad laboral o ciertos patrones de trayectoria profesional pueden influir de manera indebida si el sistema los pondera sin control.
También es importante comprobar si se están introduciendo datos personales especialmente sensibles o información que no resulta necesaria para la finalidad perseguida. Cuantos más datos se traten, mayor será la responsabilidad de la empresa y mayor deberá ser el cuidado en materia de privacidad, conservación y acceso.
Antes de implantar una herramienta, pregúntese qué datos necesita realmente, quién puede acceder a ellos, durante cuánto tiempo se conservan y cómo se eliminan.
Exija garantías al proveedor de la herramienta
Muchas empresas no desarrollan sus propios sistemas de IA, sino que contratan soluciones de terceros. Esto no elimina la responsabilidad de quien utiliza la herramienta en su actividad profesional. Por eso, antes de contratar una plataforma, conviene solicitar información clara al proveedor sobre el funcionamiento del sistema, sus límites y las garantías que ofrece.
El contrato debe regular aspectos como la finalidad de uso, las instrucciones de funcionamiento, el tratamiento de datos, las medidas de seguridad, la conservación de información y el soporte en caso de incidencias. También es recomendable exigir documentación sobre cómo se ha probado la herramienta, qué controles incorpora y qué opciones ofrece para revisar o corregir resultados.
Si el proveedor no facilita explicaciones claras, utiliza condiciones genéricas o no permite conocer los criterios básicos del sistema, la empresa debería extremar la prudencia. En sectores sensibles, una herramienta barata o rápida puede salir cara si después no permite justificar las decisiones adoptadas.
¿Como cumplir con la normativa si usa IA de alto riesgo?
Paso 1
Identificación del riesgo
Cuando el sistema actúe en áreas sensibles (salud, seguridad, intimidad de las personas…), verifique si se encuentra afectado.
El Anexo III del RIA ofrece una lista detallada de estos sistemas.
Paso 2
Evaluación de conformidad
Deberá someter el sistema a una evaluación de conformidad antes de ponerlo en marcha para verificar que cumple con los requisitos del RIA en cuanto a seguridad y protección de derechos.
Esta valoración puede llevarla a cabo el mismo proveedor, o bien un organismo externo.
Paso 3
Ejecución
Con el sistema ya en marcha, deberá cumplir los siguientes requisitos:
- Transparencia :
Entre otras obligaciones en esta materia, debe informar a los usuarios de que están interactuando con una IA. Incluya una advertencia en la pantalla que lo indique.
Asimismo, debe explicar en qué criterios generales se basa el sistema para decidir, además de detallar cómo y por qué se toma cada decisión.
- Registros :
También debe llevar un registro detallado de las operaciones del sistema, incluyendo documentación técnica sobre cómo se diseñó, cómo fue probado y cómo se monitorea su funcionamiento.
Mantener una documentación clara le protegerá ante posibles auditorías o inspecciones.
- Supervisión continua :
Los sistemas de IA de lato riesgo deben ser inspeccionados constantemente para asegurar que cumplen en todo momento con los estándares de seguridad y ética .
Realice auditorías periódicas para asegurarse de que no se desvían de los parámetros iniciales.
Incumplimiento
Sepa que infringir el RIA puede comportar multas millonarias, además del menoscabo de la reputación de su empresa.
Consulte el Anexo III del Reglamento para identificar si su empresa usa IA de alto riesgo y cumplir con las obligaciones que éste le impone.
Así evitará sanciones y se asegurará de hacer un uso ético de esta tecnología.