Karla Grossenbacher de Seyfarth evalúa los riesgos legales de confidencialidad y privacidad, parcialidad y equidad, cumplimiento legal y responsabilidad en el trabajo de cara al cliente.
La herramienta es una plataforma de lenguaje de inteligencia artificial que está entrenada para interactuar conversacionalmente y realizar tareas. Para entrenar IA como ChatGPT, se introducen conjuntos de datos masivos en un algoritmo informático. Luego, el modelo se evalúa para determinar qué tan bien hace predicciones al revisar datos no vistos anteriormente.
Luego, la herramienta de IA pasa por pruebas para determinar si el modelo funciona bien con grandes cantidades de datos nuevos que no ha visto antes.
Aunque Chat GPT puede introducir eficiencias en los procesos del lugar de trabajo, también presenta riesgos legales para los empleadores.
Dada la forma en que la IA se entrena y aprende, pueden surgir problemas importantes para los empleadores cuando los empleados usan ChatGPT para realizar sus tareas laborales. La precisión y el sesgo son preocupaciones cuando los empleados obtienen información de una fuente como ChatGPT en relación con su trabajo.
Precisión y confianza en la IA
La capacidad de ChatGPT para proporcionar información como un modelo de lenguaje de IA es tan buena como la información que aprendió en la fase de entrenamiento. Aunque ChatGPT está capacitado en una gran cantidad de información en línea, su base de conocimientos aún tiene lagunas.
La versión actual de ChatGPT solo se entrenó en conjuntos de datos disponibles hasta 2021. Además, la herramienta extrae datos en línea que no siempre son precisos. Si los empleados confían en ChatGPT para obtener información relacionada con el trabajo y no la verifican, pueden surgir problemas y riesgos dependiendo de cómo los empleados usen la información y a dónde la envíen.
Por lo tanto, los empleadores deben establecer políticas que establezcan medidas de protección específicas sobre cómo los empleados usan la información de ChatGPT en relación con su trabajo.
Sesgo inherente
También está la cuestión del sesgo inherente a la IA. La Comisión de Igualdad de Oportunidades en el Empleo se centra en este tema, ya que se relaciona con las leyes de discriminación laboral que aplica. Además, los legisladores estatales y locales están proponiendo, y algunos han aprobado, leyes que restringen el uso de la IA por parte de los empleadores.
La información que proporciona la IA depende necesariamente de la información sobre la que se entrena, y de aquellos que toman decisiones sobre qué información recibe la IA. Este sesgo podría manifestarse en los tipos de información que ofrece ChatGPT en respuesta a las preguntas presentadas en la “conversación” con él.
Además, si se consulta a ChatGPT con respecto a la toma de decisiones en el empleo, esto podría generar reclamos de discriminación. También podría causar problemas de cumplimiento según las leyes estatales y locales que exigen el aviso del uso de IA en ciertas decisiones laborales y/o auditorías antes de usarla en determinados contextos laborales.
Debido a los riesgos de sesgo en la IA, los empleadores deben incluir en sus políticas una prohibición general sobre el uso de la IA en relación con las decisiones de empleo sin la aprobación del departamento legal.
Privacidad y confidencialidad
La confidencialidad y la privacidad de los datos son otras preocupaciones para los empleadores cuando piensan en cómo los empleados podrían usar ChatGPT en relación con el trabajo.
Existe la posibilidad de que los empleados compartan información patentada, confidencial o secreta comercial cuando tengan “conversaciones” con ChatGPT.
Aunque ChatGPT representa que no retiene la información proporcionada en las conversaciones, “aprende” de cada conversación. Y, por supuesto, los usuarios ingresan información en las conversaciones con ChatGPT a través de Internet y no hay garantía de seguridad en dichas comunicaciones.
La información confidencial del empleador podría verse afectada si un empleado la revela a ChatGPT. Los empleadores prudentes incluirán, en los acuerdos y políticas de confidencialidad de los empleados, prohibiciones para que los empleados hagan referencia o ingresen información confidencial, patentada o secreta comercial en los chatbots de IA o modelos de lenguaje, como ChatGPT.
Se podría argumentar que la información proporcionada a un chatbot en línea no sería necesariamente la divulgación de un secreto comercial.
Por otro lado, dado que ChatGPT fue capacitado en amplias franjas de información en línea, los empleados pueden recibir y usar información de la herramienta que tiene marca registrada, derechos de autor o propiedad intelectual de otra persona o entidad, creando un riesgo legal para los empleadores.
Otras preocupaciones del empleador
Además de estas preocupaciones legales, los empleadores deben considerar hasta qué punto quieren permitir que los empleados usen ChatGPT en relación con sus trabajos. Los empleadores se encuentran en una encrucijada importante al considerar si adoptar o restringir el uso de ChatGPT en sus lugares de trabajo y cómo hacerlo.
Los empleadores deben sopesar la eficiencia y la economía que podrían lograr los empleados que usan ChatGPT para realizar tareas como escribir cartas y correos electrónicos de rutina, generar informes simples y crear presentaciones, por ejemplo, frente a la posible pérdida de oportunidades de desarrollo para los empleados que realizan dichas tareas por sí mismos.
ChatGPT no va a desaparecer, y dentro de un año debería salir una versión nueva y mejorada. En última instancia, los empleadores deberán abordar su uso en sus lugares de trabajo, ya que la próxima iteración será aún mejor.
A pesar de todos los riesgos que puede presentar ChatGPT, los empleadores también pueden aprovechar sus beneficios. La discusión acaba de comenzar. Es probable que los empleadores aprendan y hagan pruebas beta de esto por un tiempo, al igual que ChatGPT.
