Una compañía norteamericana, Predictim, ofrece a las familias que buscan babysitter u otras personas para ayuda doméstica un algoritmo que intenta calcular la idoneidad de los candidatos en función de su actividad en redes sociales, con métricas que pretenden aproximar probabilidades sobre comportamientos que van desde las actitudes irrespetuosas o negativas hasta el consumo de drogas, pasando por el uso de lenguaje explícito o la participación en actividades de acoso o bullying. La familia puede tomar decisiones de contratación en función del resultado de ese análisis, y mantener la monitorización para detectar si surge algún tipo de actitud que pueda ser considerada peligrosa.
Otras compañías, como Fama, analizan algorítmicamente las actitudes de los empleados de una compañía en busca de potenciales riesgos reputacionales derivados de su perfil. Y más allá del análisis de redes sociales está HireVue, que analiza vídeos de entrevistas para, también de manera algorítmica, detectar posibles patrones en el tono, la elección de vocabulario o las expresiones faciales de los candidatos y predecir su posible desempeño en el puesto de trabajo al que aspiran.
La noticia abre la puerta a un tipo de análisis de conducta del que hemos hablado en numerosas ocasiones, pero que ahora se lleva a cabo de manera algorítmica, con todo lo que ello conlleva. Cualquier proceso de selección supone un proceso de reducción de la incertidumbre con respecto a la persona contratada, que suele ser sometida a todo tipo de pruebas que intentan evaluar sus aptitudes, actitudes, rasgos de conducta, etc. Que ese tipo de análisis se extienda a las redes sociales es algo habitual desde hace tiempo: quien se comporta mal en redes sociales suele tener hábitos cuestionables, por tanto es congruente que se le descarte en un proceso de selección. Que ese tipo de análisis, además, se lleve a cabo mediante algoritmos, genera una automatización del proceso que permite su escalado, a riesgo de incorporar otros sesgos como la incapacidad para reconocer o entender determinadas actitudes como la ironía o el sarcasmo, con posibilidades tanto de pasarlas por alto como de señalarlas como potencialmente peligrosas cuando realmente no lo son. En el caso de Predictim, cuando el algoritmo localiza actitudes calificadas como potencialmente peligrosas, señala esos posts para que los interesados puedan examinarlos manualmente y tomar sus propias decisiones en función de lo que vean.
¿Qué ocurre cuando un algoritmo de este tipo se utiliza para juzgar un trabajo como el de babysitter, en muchos casos desarrollado por personas jóvenes? Que pasamos a analizar comentarios y comportamientos en redes sociales exhibidos por candidatos muy jóvenes, a menudo menores de edad, que no dejan de tener connotaciones que pueden tender a cambiar con la madurez. Los candidatos pueden negarse a ser analizados, pero esa negativa también es comunicada a la familia que pretende incorporarlos. Por otro lado, el análisis exhaustivo de la participación de una persona en redes sociales puede llegar a ofrecer una auténtica disección de esa persona, a menudo distorsionada por otros factores, lo que podría dar lugar a discriminación en función de otros factores como creencias religiosas, afinidades políticas, etc. o hasta gustos musicales. En el caso de muchos puestos directivos o técnicos, la cuestión puede llegar a ser aún más compleja: muchos potenciales candidatos participan en redes sociales para obtener así un perfil más relevante en su área de conocimiento, pero deben además ser conscientes de hacerlo con el cuidado adecuado para que ello no perjudique un posible análisis conductual.
Algoritmos de este tipo evidencian una cuestión que debería ser obvia, pero que no lo era para muchos: lo que escribes en público en una red social es ni más ni menos que eso, una publicación analizable por cualquiera, que automáticamente pasa a definirte y, en muchos sentidos, a etiquetarte. Si te dedicas a verter bilis contra todo lo que se mueve en una red social, estás dejando claras cosas que van desde tus afinidades, fobias y filias, hasta en muchos casos tus sesgos ideológicos o de otros tipos, o tu actitud ante la vida. En determinados procesos de selección, ese conjunto de características que revelas en función de tu participación pueden perfectamente formar parte de las actitudes que la compañía que ofrece un puesto puede querer analizar, y pueden, en algunos casos, dejarte fuera del proceso.
¿Estamos preparados para asumir que aquellos tweets, aquellos comentarios en YouTube o aquella participación desaforada en el linchamiento público de alguien pueden haberse convertido en parte del perfil que alguien analiza para tomar decisiones que afecten a nuestras oportunidades profesionales? ¿Pensabas que eran únicamente los políticos y perfiles públicos los que veían sus cuentas en redes sociales escrutadas hasta el límite?
