IA Explicable
Por qué la IA Explicable es Importante en la Contratación: Una Guía Práctica
Por qué construí un reclutador de IA que muestra su trabajo
La historia de HCIA, y una apuesta personal de que la contratación puede ser más rápida y más humana.
La chispa
He estado escribiendo código durante más de una década. Era bueno en ello. Así que no esperaba que buscar trabajo se convirtiera en el problema más difícil que jamás intentaría resolver.
Cada solicitud se sentía igual. Pulir el currículum, hacer clic en enviar, verlo desaparecer. Sin respuesta, sin razón, solo silencio. Y tenía una idea bastante clara de lo que estaba pasando detrás de ese muro, porque lo había visto desde dentro. Reclutadores abrumados por cientos de solicitantes, confiando en la intuición o en herramientas de palabras clave que recompensaban las palabras de moda sobre las habilidades reales. Personas buenas eran filtradas por escribir "desarrollado" en lugar de "ingeniería". Otras más débiles pasaban porque habían memorizado las palabras correctas.
Esa experiencia se convirtió en la semilla de HCIA.
El desafío
Construir una plataforma de reclutamiento con IA por mi cuenta significaba hacer todos los trabajos a la vez. Gerente de producto por la mañana, ingeniero de backend por la tarde, diseñador y comercializador por la noche. Pero la carga de trabajo nunca fue realmente la parte difícil. La parte difícil era una pregunta que no podía quitarme de encima.
El mercado ya estaba lleno de herramientas de contratación con IA, y la mayoría tenía el mismo problema. Ocultaban su razonamiento. Aparecía una puntuación, un candidato era clasificado, y nadie podía decirte por qué. Ni el reclutador, ni la persona que solicitó. Cuando una herramienta ayuda a decidir quién tiene la oportunidad de conseguir un trabajo, "solo confía" no es suficiente. No quería construir algo que tomara malas decisiones más rápido. Quería que la contratación fuera más abierta de lo que nunca había sido, incluso antes de que la IA estuviera involucrada.
Construyendo el núcleo
Empecé con la parte que más dolía, que era la selección de currículums.
El objetivo no era solo extraer datos de un currículum. Era explicar una coincidencia de una manera que una persona pudiera verificar. HCIA lee un CV y extrae lo estructurado: habilidades, experiencia, educación, proyectos. Luego alinea cada uno con lo que el puesto realmente pide. Y cada coincidencia viene con una razón escrita en lenguaje sencillo:
"El candidato tiene 5 años de experiencia en Python, cumpliendo con su requisito de 3+ años."
Sin números misteriosos. Solo la evidencia.
Después de eso vinieron las entrevistas en video asistidas por IA. Los candidatos graban respuestas a un conjunto de preguntas predefinidas cuando les conviene. HCIA analiza cada respuesta en tres aspectos: contenido, entrega y sentimiento, y nuevamente, se explica a sí mismo:
"El candidato abordó los tres puntos clave con confianza (puntuación de confianza del 77%)."
Todo lo que dice apunta a algo real. Sin cajas negras.
Bajo el capó
Debajo de todo, HCIA utiliza procesamiento de lenguaje natural para leer currículums y transcribir entrevistas, modelos transformadores para entender lo que alguien realmente quiere decir en lugar de solo coincidir palabras clave, y una capa de puntuación construida para ser examinada en lugar de aceptada sin cuestionar.
La decisión más difícil que tomé no fue elegir un modelo. Fue decidir no enviar nada que el sistema no pudiera explicar. Si una función hacía las puntuaciones un poco más precisas pero convertía el razonamiento en una caja negra, no se incluía. Esa única regla terminó moldeando prácticamente cada decisión técnica que vino después.
La explicabilidad es la base
Muchos productos tratan la explicabilidad como algo que se añade después. Para HCIA es la base sobre la que se apoya todo lo demás.
Cada decisión que toma el sistema apunta a evidencia específica, una línea en un CV o un momento en una entrevista. Los reclutadores pueden abrir cualquier puntuación, ver qué la impulsó, anularla o pedir más. La IA no tiene la última palabra. La persona sí. Eso importa por varias razones. Genera confianza con quienes contratan. Da a los candidatos un proceso que es realmente justo y que podrían impugnar. Y mantiene a las empresas del lado correcto de normas como la Ley de IA de la UE y el GDPR, que están empezando a exigir que las decisiones automatizadas puedan explicarse.
En la contratación, "el algoritmo lo decidió" se está convirtiendo en un riesgo legal real. HCIA está construido para que nadie tenga que decirlo nunca.
Enfrentando el sesgo de frente
No se puede hablar de IA en la contratación sin hablar de sesgo. Los modelos aprenden de datos pasados, y los datos de contratación pasados están llenos de sesgo humano. Un sistema opaco no elimina ese sesgo. Solo lo oculta detrás de un número que parece neutral.
Este es otro lugar donde la explicabilidad demuestra su valor. Debido a que cada decisión se puede rastrear, el sesgo se convierte en algo que realmente puedes ver en lugar de algo enterrado en las matemáticas. Estoy construyendo un módulo dedicado de detección de sesgos que señala cuando los resultados comienzan a sesgarse en líneas que no tienen nada que ver con el trabajo, para que los reclutadores puedan detectarlo y solucionarlo en lugar de escalarlo sin saberlo. Ser transparente no se trata solo de confianza. Se trata de poder detectar lo que está saliendo mal mientras aún hay tiempo para hacer algo al respecto.
La realidad del fundador solitario
Trabajar solo te hace honesto sobre las compensaciones.
Puse en código abierto algunos de los componentes, en parte para invitar a la gente a buscarles fallos, y en parte porque la retroalimentación de la comunidad es lo más parecido que un fundador solitario tiene a un equipo de revisores. También me apoyé mucho en hablar con los usuarios. Al principio, cada evaluador recibió una llamada mía para escuchar cómo les había ido realmente. Esas llamadas hicieron más para dar forma al producto que cualquier hoja de ruta que escribí.
Es más lento que trabajar con un equipo. No hay nadie a quien pasarle algo a medianoche. Pero hay una ventaja. Cada línea de código está ahí por una razón, y entiendo cada decisión en el sistema porque soy yo quien la tomó.
Lo que he aprendido
Algunas cosas me tomaron por sorpresa:
- La transparencia es algo por lo que la gente realmente pagará. Pensé que los compradores querían principalmente velocidad. Lo que realmente querían era poder defender una decisión, ya sea ante un candidato, un gerente o un regulador.
- La parte difícil de la IA no es la IA. Es el juicio que la rodea. Qué automatizar, qué dejar a las personas, y dónde debe estar la línea entre ambos.
- Construir solo es solitario, pero aclara las cosas. Sin un equipo con quien discutir, no puedes esconderte detrás de una decisión grupal. Cada elección es tuya, y también cada lección.
¿Qué sigue?
HCIA está activo para empresas medianas y grandes en este momento. Los próximos pasos son integraciones más profundas con las grandes plataformas ATS para que encaje en las herramientas que los equipos ya usan, además de un módulo de detección de sesgos más inteligente.
La misión no ha cambiado realmente. Contratación liderada por humanos, impulsada por IA explicable. La IA hace el trabajo pesado, las personas toman la decisión, y todos pueden ver por qué.
Hablemos
Si eres fundador o gerente de contratación que está harto de herramientas opacas que solo te piden que confíes, prueba HCIA.
Y si tienes comentarios, especialmente los duros, quiero escucharlos. Construir por mi cuenta significa que siempre estoy aprendiendo, y la mayoría de las mejores lecciones han venido de personas dispuestas a decirme lo que está roto.