En diciembre de 2027 entra en vigor, en la Unión Europea, una regla que cambia la postura de cualquier empresa que use IA para decidir sobre personas: contratar, promover, evaluar el desempeño o definir una condición laboral por medio de IA pasa a clasificarse como alto riesgo, con la exigencia de que una persona pueda entender, supervisar y, si hace falta, detener la decisión antes de que produzca efecto. Eso es lo que establecen el Artículo 14 y el Anexo III de la ley europea de inteligencia artificial, y nombran exactamente los casos que más aparecen hoy dentro de las empresas: filtrar candidaturas, evaluar candidatos, decidir un ascenso o un despido, asignar tareas según el comportamiento.
Del otro lado del Atlántico, la ciudad de Nueva York ya no trata esto como una promesa lejana: desde 2023, cualquier empresa que use una herramienta automatizada para seleccionar o evaluar candidatos allí tiene que publicar una auditoría independiente de sesgo cada año y avisar a cada candidato con al menos diez días hábiles de anticipación. Quien no cumple paga una multa por infracción — y no hacer la auditoría y no avisar al candidato cuentan como dos infracciones separadas.
En Brasil, el camino es distinto, pero el destino se parece: la ley de protección de datos ya garantiza a la persona afectada por una decisión tomada únicamente mediante procesamiento automatizado el derecho a pedir una revisión, y eso vale para decisiones sobre el perfil profesional, de consumo y de crédito de alguien — no solo para las grandes tecnológicas. Para quien decide sobre las políticas internas de IA en una empresa latinoamericana, estos tres frentes no son noticia lejana: describen el diseño que cualquier herramienta que decida sobre personas va a tener que seguir, tarde o temprano.
El problema no es el algoritmo, es el silencio a su alrededor
El caso más visible del problema no vino de Europa ni de Nueva York — vino de una demanda en California. Derek Mobley, hombre negro, de más de cuarenta años y con una discapacidad, aplicó a más de cien puestos a través de la plataforma de reclutamiento de Workday desde 2017. Las respuestas llegaban casi instantáneas, muchas de madrugada, siempre negativas, sin una sola entrevista. En 2023 demandó a la empresa alegando que su sistema de selección automatizada discriminaba por edad, raza y discapacidad.
El proceso tardó años solo para resolver una pregunta previa: ¿quién es responsable cuando una herramienta de selección toma la decisión en lugar de un reclutador? En 2024 la justicia determinó que Workday podía ser tratada como agente de las empresas que usan su herramienta — no como proveedora neutral de software. En mayo de 2025, parte del caso se convirtió en una acción colectiva a nivel nacional, abierta a candidatos de más de cuarenta años evaluados por el sistema desde 2020. En junio de 2026, un juez negó la petición de Workday de cerrar el proceso, manteniendo abiertos los reclamos por edad y discapacidad.
El caso Mobley no es una excepción, es un síntoma. Un estudio de investigadores de las universidades Stanford, Chapman y Northeastern analizó más de 4 millones de candidaturas de 3 millones de personas, evaluadas por algoritmos de un mismo proveedor en 156 empresas. Al examinar cada puesto por separado — y no el promedio de todos juntos, que escondía el problema —, encontraron que casi el 26% de las candidaturas de personas negras y cerca del 15% de las candidaturas de personas asiáticas se dirigieron a puestos donde el algoritmo produjo un resultado que el estándar legal estadounidense considera discriminatorio. En algunos casos, la misma persona era rechazada en varios puestos de empresas distintas en una proporción mayor de la que se esperaría si cada empresa decidiera de forma independiente — un patrón que los investigadores llamaron rechazo sistémico.
Casi el 26% de todas las candidaturas enviadas por personas negras — cerca de 40 mil postulaciones — fueron a puestos donde el algoritmo produjo lo que las normas federales estadounidenses definen como resultado discriminatorio.
El patrón común a los dos casos no es técnico. Es que, en el momento en que la decisión ocurrió, nadie dentro de la empresa podía decir con qué información se tomó, ni quién — o qué — la confirmó.
Por qué revisar después del hecho no resuelve
La reacción más común, al leer estos números, es publicar una política o hacer una auditoría puntual al lanzar la herramienta. Las dos ayudan, pero ninguna resuelve el problema central, por dos motivos.
El primero es el tiempo. Una auditoría anual, como la que exige Nueva York, se hace después: incluso con buenas prácticas, un patrón sesgado puede correr durante meses antes de que alguien audite de nuevo y lo note. En ese intervalo, la decisión ya ocurrió para cientos o miles de personas.
El segundo es que revisar "después" suele significar revisar el resultado, no el proceso. Nadie registró, en el momento de la decisión, quién pidió la selección, con qué instrucción y con base en qué información de la empresa. Sin ese registro, una auditoría posterior solo ve el resultado agregado — el mismo problema que detectó el estudio liderado por Stanford al notar que el promedio de todos los puestos escondía el sesgo que aparecía puesto por puesto.
Lo que falta no es más regla. Es un mecanismo que actúe en el momento de la decisión, no después de ella.
Lo que tiene que existir en la práctica
Un entorno de IA que decide, sugiere o influye en decisiones sobre personas — contratación, ascenso, crédito, medida disciplinaria — necesita mecanismos verificables antes de que cualquier decisión salga de la conversación.
Identidad de quién lo pidió. Toda solicitud de selección, evaluación o recomendación lleva el nombre de quien la hizo, proveniente del mismo directorio de identidad que la empresa ya usa — nunca una cuenta personal fuera del control del área de TI.
Aprobación humana antes de la acción, no después del resultado. Una acción sensible sobre una persona — rechazar a un candidato, señalar un riesgo de crédito, proponer una medida disciplinaria — se detiene y pide confirmación de alguien con autoridad antes de seguir, dentro de la propia conversación, y no en una auditoría que corre detrás de lo que ya pasó.
Segregación entre quien propone y quien aprueba. La persona, o el agente, que sugiere la decisión y la persona que la confirma no pueden ser la misma, para que una recomendación automática nunca se convierta en decisión final por sí sola.
Acceso según el rol de cada persona. Solo quien tiene autoridad sobre RR. HH., crédito o conducta puede confirmar este tipo de decisión; cualquier otro perfil dentro de la empresa ni siquiera ve la opción.
Un registro de auditoría reconstruible. Cuando alguien impugna una decisión — como pasó en el caso Mobley —, se puede reconstruir en minutos con qué información se tomó, quién la pidió y quién la confirmó, sin depender de la memoria de nadie.
Así fue diseñada la plataforma Skyller: aprobación humana antes de una acción sensible, acceso según el rol de cada persona y un registro de auditoría detallado por área del sistema.
Lo que cambia para quien decide
La ganancia más visible es legal. Buena parte del caso Mobley giró en torno a una pregunta que un registro de auditoría respondería en segundos: ¿quién controlaba la herramienta en el momento de la decisión, y como agente de quién actuaba? Las empresas que registran quién pidió y quién confirmó cada decisión sobre una persona entran a ese tipo de disputa con evidencia, no con una reconstrucción de memoria meses después.
Hay una ganancia anterior a la disputa: menos disputas para empezar. Cuando la aprobación humana ocurre antes de la acción — y no después, en una auditoría —, parte de los errores que generan reclamos nunca llegan a producir efecto sobre la persona. Y cuando el candidato o el colaborador sabe que existe un paso de confirmación humana, la decisión carga menos desconfianza, incluso cuando el resultado es negativo.
Para el área de RR. HH., de crédito o de cumplimiento, la ganancia práctica es poder separar, dentro del propio sistema, lo que fue sugerencia de IA de lo que fue decisión confirmada por una persona — la distinción exacta que jueces, reguladores y candidatos vienen exigiendo con más frecuencia cada año.
Preguntas para llevar a la próxima reunión
Antes de ampliar el uso de IA en cualquier decisión que afecte a personas, vale la pena llevar estas preguntas a la próxima reunión con RR. HH., legal y TI:
- ¿Alguna decisión sobre contratación, ascenso, crédito o disciplina sale hoy de una conversación con IA sin confirmación humana registrada? Si la respuesta es sí, ese es el primer punto por cerrar, antes de cualquier otro ajuste.
- ¿Quién pidió y quién aprobó aparecen como personas distintas en el registro, o es siempre la misma persona en los dos roles? Si es siempre la misma, no existe una segregación real — solo su nombre repetido.
- Si un candidato o colaborador impugna una decisión dentro de seis meses, ¿se puede reconstruir con qué información se tomó? Sin ese registro, la defensa de la empresa depende de la memoria, no de un registro real.
- ¿La empresa puede señalar, para cualquier decisión sobre una persona en los últimos 90 días, quién la confirmó? Si la respuesta exige buscar en varias herramientas distintas, el registro no existe de verdad — está disperso.
