¿La Inteligencia Artificial podrá elegir entre los mejores candidatos a un puesto o automatizar rechazos?, esto es lo que investiga María Elena Martínez Manzanares en su tesis de Maestría en Ciencia de Datos que le permitió ganar el primer lugar del premio José Negrete, otorgado por la Sociedad Mexicana en Inteligencia Artificial.
Durante 10 años, María Elena Martínez Manzanares, egresada de la Universidad de Sonora (Unison) y consultora en Inteligencia Artificial (I.A.) siguió un camino que la llevó a conseguir cinco grados académicos, colaborando en el último de estos, durante el final de la Maestría en Ciencia de Datos, en el proyecto por el que fue galardonada.
Dicho estudio consistió en el diseño de un sistema que pudiera emparejar un candidato del área de Software y Ciencias de Datos a puestos laborales mediante el uso de un modelo basado en IA que considerará todas las reglas que utilizan los tomadores de decisiones en las empresas.
Durante 2023 cuando se llevaba a cabo este análisis, con ayuda de Gudelia Figueroa Preciado, docente de la Unison, explicó que se trataba de resolver un problema de asignación, es decir, que se contaba con un escenario donde se tenía una descripción de trabajo y currículos de empleo, y de 10 candidatos había que valorarlos de mejor a peor.
Leer también: Conoce a María Elena, joven sonorense con cinco grados académicos
“Dicho en palabras suena simple, en principio puede sonar muy simple, pero analizando ¿qué significa que una persona sea mejor que otra para un trabajo?, decisión que lleva a cabo un ser humano, sea el de recursos humanos, el dueño de la empresa o un líder”, comentó.
María Elena declaró que los criterios que va a utilizar cada persona para decidir no son los mismos de acuerdo con el área en la que se encuentren, ingeniería de software, farmacéutica, industria automotriz, ya que cada uno tomará en cuenta diferentes características.
La consultora en IA dijo que, básicamente el problema consiste en cómo reducir todo lo que se debe estudiar para esa toma de decisión, ya que se vuelve muy complejo delimitar todas estas reglas si cambian tanto dependiendo del área.
Expuso que, por proximidad se decidió reducir este trabajo al área de Software y Ciencia de Datos para estudiar cómo ocurre este proceso de asignación dentro de dicha área.
Después de hacer una revisión documental fuerte de lo que ya existía al respecto se notó que este tipo de sistemas tienen la característica de que propagan el sesgo con mucha facilidad, recordó.
El gran problema ético del uso de la IA
“Propagar el sesgo en un sistema automático es automatizar rechazos por criterios no tan buenos de forma automática, lo que es peligroso y poco ético”, expresó la joven científica.
Por lo que como se quería automatizar lo que un humano experto hace, se buscó identificar las reglas que estos siguen para tomar la decisión de quién se queda con el puesto.
“Aunque estos sistemas no deciden quién se queda con un puesto de trabajo, sí automatizan rechazos, imagina que nuestros planteamientos automatizarán rechazos por criterios injustos, ese es un gran problema ético del uso de la Inteligencia Artificial”.
Aseguró que se buscó a participantes humanos que formaran parte en esta toma de decisiones para entender cómo ocurre en México, tarea que no fue fácil, pero se encontraron los candidatos suficientes de distintas empresas.
Después de mucho análisis y trabajo se llegó a los criterios en los que se fijan los tomadores de decisiones cuando van a contratar a alguien, así como también la identificación de criterios con sesgo.
Un criterio sesgado es basado en el “sesgo cognitivo”, es decir, una forma de razonamiento que va en contra de la verosimilitud, de estos, se detectaron varios dentro de los procesos que se siguen para la contratación de personal, puntualizó.
“Hay muchos sesgos alrededor de la fotografía de una persona, a qué universidad asistieron, cuánto tiempo duraban en un trabajo, una variedad de cosas y esos criterios tratamos de aislar y quedarnos con los que no siguieron una forma de razonamiento sesgada”, recalcó.
María Elena reveló que cuando se contó con toda la información necesaria, a partir de un diseño específico, se diseñó un experimento para tener datos que permitieran evaluar el modelo que se iba a llevar a cabo.
¡Suscríbete a nuestro Newsletter y recibe las noticias directo a tu correo electrónico
Para la realización del proyecto se sigue un tipo de modelo matemático que lleva por nombre “redes neuronales” y se combinó con otro tipo de modelo de nombre “medidas difusas”, con lo que básicamente se logró replicar cómo lo haría un humano experto, continuó.
En enero de 2024, todo este proyecto se sometió a la revista científica Applying Artificial Intelligence, donde se consideró que es un trabajo que beneficiaría mucho a la comunidad ya que también considera el contexto sociocultural.
La especialista en IA añadió que, en junio del mismo año se tituló de la maestría en Ciencia de Datos y para septiembre culminaría el Doctorado en Ciencias Matemáticas.
“El poder hacer este trabajo con las técnicas que lo hice fue el trabajo de toda una vida ya que para poder llegar al resultado de las técnicas de análisis que hice aquí duré estudiando ininterrumpidamente 10 años y siento que lo que estaba buscando al estudiar tanto y conseguir esos cinco grados, sí lo logré, me siento satisfecha”, finalizó.
¿Ya nos sigues en WhatsApp? Regístrate con un solo clic en nuestro canal