Les compartimos un interesante artículo que cuentas las controversias que van surgiendo a medida que se va usando las nuevas herramientas de contratación, contador por The New York Time.
Los algoritmos toman muchas decisiones importantes para nosotros, como nuestra solvencia, las mejores perspectivas románticas y si estamos calificados para un trabajo. Los empleadores los estamos empezando a usar cada vez más durante el proceso de contratación por la creencia de que son más convenientes y menos sesgados que los humanos. Sin embargo, esto está equivocado.
En el pasado, un solicitante de empleo podía ingresar a una tienda de ropa, llenar una solicitud e incluso entregarla directamente al gerente de contratación. Hoy en día, su aplicación debe pasar por un curso de obstáculos de algoritmos de contratación en línea antes de que pueda considerarse. Esto es especialmente cierto para los trabajadores de bajos salarios y por hora con tendencia a profundizarse.
La situación también se aplica a los profesionales. Las personas que solicitan ser pasantes de verano y analistas de primer año en Goldman Sachs tienen su currículum digital escaneado digitalmente en busca de palabras clave que puedan predecir el éxito en la empresa. Y la compañía ahora ha adoptado las entrevistas automatizadas.
El problema es que esta forma de contratación puede crear un sistema de circuito cerrado. Los anuncios creados por algoritmos alientan a ciertas personas a enviar sus currículums. Después de que los currículums han sido eliminados automáticamente, unos pocos afortunados son contratados y luego sometidos a una evaluación automatizada, cuyos resultados se vuelven a colocar para establecer criterios para futuros anuncios de empleo y selección. Este sistema funciona sin transparencia ni responsabilidad incorporada para verificar que los criterios sean justos para todos los solicitantes de empleo.
Como resultado, las plataformas de contratación automatizadas han permitido la discriminación contra los solicitantes de empleo. En 2017, el fiscal general de Illinois abrió una investigación sobre varias plataformas de contratación automatizadas después de quejas de que una herramienta de creación de currículum en Jobr excluía efectivamente a los solicitantes mayores. La plataforma tenía un menú desplegable que impedía a los solicitantes enumerar su año de graduación universitaria o el año de su primer trabajo antes de 1980.
De manera similar, una demanda colectiva de 2016 alegó que las herramientas de Facebook Business “permiten y fomentan la discriminación al excluir a los afroamericanos, latinos y asiáticoamericanos, pero no a los estadounidenses blancos, de recibir anuncios de oportunidades relevantes”. La antigua función Lookalike Audiences de Facebook permitió a los empleadores elegir solo los usuarios de Facebook demográficamente idénticos a sus trabajadores existentes para que pueden ver anuncios de trabajo, replicando así las disparidades raciales o de género en sus empresas. En marzo, Facebook acordó hacer cambios en su plataforma publicitaria para resolver la demanda.
Pero esto es solo la punta del iceberg. Según la ley federal, los empleadores tienen una amplia discreción para decidir qué cualidades son un “ajuste cultural” para su organización. Esto permite a las empresas elegir criterios de contratación que podrían excluir a ciertos grupos de personas y ocultar este sesgo a través de la contratación automatizada. Por ejemplo, elegir la “colaboradores que no falten” como un ajuste cultural que podría perjudicar a las mujeres, que desproporcionadamente toman permisos del lugar de trabajo para atender a los niños y a los familiares enfermos.
La contratación automatizada ahora ha evolucionado más allá del análisis y selección de currículums simples. Según una demanda, un estudiante universitario con un puntaje SAT casi perfecto y un diagnóstico de trastorno bipolar se vio rechazado una y otra vez por trabajos de salario mínimo en supermercados y tiendas minoristas que usaban una prueba de personalidad modelada después de una prueba utilizada para diagnosticar enfermedad mental.
¿Cómo nos aseguramos de que las plataformas de contratación automatizadas no empeoren la discriminación laboral?
El primer paso es aprobar leyes que permitan a los demandantes presentar demandas cuando hayan experimentado un sesgo en un sistema de contratación automatizado. La ley federal exige que un demandante pruebe un trato dispar (es decir, evidencia de “es fumador” de discriminación intencional) o un impacto dispar (prueba estadística de que un grupo de solicitantes, por ejemplo, minorías raciales o mujeres blancas, fueron rechazados desproporcionadamente por empleo). Sin embargo, es difícil para los solicitantes obtener cualquier tipo de prueba porque los empleadores controlan los datos en las plataformas de contratación.
Deberíamos cambiar la ley para permitir un tercer método para que los demandantes presenten una demanda bajo la doctrina de “discriminación per se”. Como describo en un documento, esta nueva doctrina permitiría que la carga de la prueba se transfiera al empleador.
Entonces, cuando un demandante que utiliza una plataforma de contratación encuentra una característica de diseño problemática, como plataformas que verifican las brechas de trabajo, debería poder presentar una demanda sobre la base de la discriminación per se, y el empleador debería presentar pruebas estadísticas de auditorías internas y externas para demostrar que su plataforma de contratación no discrimina ilegalmente a ciertos grupos.
Sin duda, la toma de decisiones humanas está nublada por prejuicios. Pero también lo es la toma de decisiones automatizada, especialmente dado que los prejuicios humanos se pueden introducir en cualquier etapa del proceso, desde el diseño del algoritmo de contratación hasta la forma en que se interpretan los resultados.
Necesitamos garantías adecuadas para evitar la discriminación laboral ilegal a través de leyes y auditorias internas para poder desarrollar todo el potencial, en forma correcta, de estas tecnologías.
