El enfoque pionero y enfocado de la ciudad de Nueva York establece reglas sobre cómo las empresas usan la tecnología en las decisiones de la fuerza laboral.
Los legisladores europeos están terminando de trabajar en un A.I. acto. La administración Biden y los líderes del Congreso tienen sus planes para controlar la inteligencia artificial. Sam Altman, director ejecutivo de OpenAI, creador ChatGPT, recomendó la creación de una agencia federal con autoridad de supervisión y concesión de licencias en el testimonio del Senado la semana pasada. Y el tema surgió en la cumbre del Grupo de los 7 en Japón.
En medio de los amplios planes y compromisos, la ciudad de Nueva York se ha convertido en un modesto pionero en regulación de Inteligencia Artificial (I.A.).
El gobierno de la ciudad aprobó una ley en 2021 y adoptó reglas específicas el mes pasado para una aplicación de alto riesgo de la tecnología: decisiones de contratación y promoción. La aplicación comienza en julio.
La ley de la ciudad requiere que las empresas que utilizan A.I. software en la contratación deben notificar a los candidatos que se está utilizando un sistema automatizado. También requiere que las empresas tengan auditores independientes que verifiquen la tecnología anualmente para detectar sesgos. Los candidatos pueden solicitar y recibir información sobre qué datos se recopilan y analizan. Sino las empresas serán multadas por violaciones.
El enfocado de la ciudad de Nueva York representa un frente importante en I.A. regulation. En algún momento, los principios generales desarrollados por los gobiernos y las organizaciones internacionales, dicen los expertos, deben traducirse en detalles y definiciones. ¿Quién está siendo afectado por la tecnología? ¿Cuáles son los beneficios y los daños? ¿Quién puede intervenir y cómo?
“Sin un caso de uso concreto, no está en posición de responder esas preguntas”, dijo Julia Stoyanovich, profesora asociada de la Universidad de Nueva York y directora de su Centro para la I.A. Responsable.
Pero incluso antes de que entre en vigor, la ley de la ciudad de Nueva York ha sido un imán para las críticas. Los defensores del interés público dicen que no va lo suficientemente lejos, mientras que los grupos empresariales dicen que no es práctico.
Las quejas de ambos campos apuntan al desafío de regular la IA, que avanza a un ritmo vertiginoso con consecuencias desconocidas, provocando entusiasmo y ansiedad.
Los compromisos incómodos son inevitables.
A la Sra. Stoyanovich le preocupa que la ley de la ciudad tenga lagunas que puedan debilitarla. “Pero es mucho mejor que no tener una ley”, dijo. “Y hasta que no intentes regular, no aprenderás cómo hacerlo”.
La ley se aplica a las empresas con trabajadores en la ciudad de Nueva York, pero los expertos laborales esperan que influya en las prácticas a nivel nacional. Al menos cuatro estados (California, Nueva Jersey, Nueva York y Vermont) y el Distrito de Columbia también están trabajando en leyes para regular la IA. en contrataciones. E Illinois y Maryland han promulgado leyes que limitan el uso de A.I. tecnologías, a menudo para la vigilancia del lugar de trabajo y la selección de candidatos.
El resultado, dicen algunos críticos, es demasiado comprensivo con los intereses comerciales.
“Lo que podría haber sido una ley histórica se diluyó hasta perder efectividad”, dijo Alexandra Givens, presidenta del Centro para la Democracia y la Tecnología, una organización política y de derechos civiles.
Eso se debe a que la ley define una “herramienta de decisión de empleo automatizada” como tecnología utilizada “para ayudar o reemplazar sustancialmente la toma de decisiones discrecional”, dijo. Las reglas adoptadas por la ciudad parecen interpretar esa frase de manera restringida para que A.I. el software requerirá una auditoría solo si es el factor único o principal en una decisión de contratación o se usa para invalidar a un ser humano, dijo la Sra. Givens.
Eso deja de lado la forma principal en que se usa el software automatizado, dijo, y un gerente de contratación invariablemente toma la decisión final (no lo regularía). El potencial de discriminación impulsada por la IA, dijo, generalmente surge en la selección de cientos o miles de candidatos hasta un puñado o en el reclutamiento en línea dirigido para generar un grupo de candidatos.
La Sra. Givens también criticó la ley por limitar los tipos de grupos medidos por trato injusto. Cubre los prejuicios por sexo, raza y etnia, pero no la discriminación contra los trabajadores mayores o aquellos con discapacidades.
“Mi mayor preocupación es que esto se convierta en la plantilla a nivel nacional cuando deberíamos pedir mucho más a nuestros legisladores”, dijo la Sra. Givens.
La ley se redujo para agudizarla y asegurarse de que fuera enfocada y aplicable, dijeron funcionarios de la ciudad. El Concejo y la agencia de protección de los trabajadores escucharon muchas voces, incluyendo activistas de interés público y compañías de software. Su objetivo era sopesar las compensaciones entre la innovación y el daño potencial, dijeron los funcionarios.
“Este es un éxito regulatorio significativo para garantizar que A.I. la tecnología se usa de manera ética y responsable”, dijo Robert Holden, quien era el presidente del comité de tecnología del Consejo cuando se aprobó la ley y sigue siendo miembro del comité.
La ciudad de Nueva York está tratando de abordar la nueva tecnología en el contexto de las leyes federales del lugar de trabajo con pautas sobre la contratación que datan de la década de 1970. La norma principal de la Comisión de Igualdad de Oportunidades en el Empleo establece que ninguna práctica o método de selección utilizado por los empleadores debe tener un “impacto dispar” en un grupo legalmente protegido como las mujeres o las minorías.
Las empresas han criticado la ley. En una presentación de este año, Software Alliance, un grupo comercial que incluye a Microsoft, SAP y Workday, dijo que el requisito de auditorías independientes de A.I. “no era factible” porque “el panorama de la auditoría es incipiente”, carente de normas y organismos profesionales de supervisión.
Pero un campo naciente es una oportunidad de mercado para el negocio de auditoría, dicen los expertos, solo va a crecer. Ya está atrayendo bufetes de abogados, consultores y empresas emergentes.
Las empresas que venden I.A. El software para ayudar en las decisiones de contratación y promoción generalmente ha llegado a adoptar la regulación. Algunos ya se han sometido a auditorías externas. Ven el requisito como una ventaja competitiva potencial, lo que demuestra que su tecnología amplía el grupo de candidatos laborales para las empresas y aumenta las oportunidades para los trabajadores.
“Creemos que podemos cumplir con la ley y mostrar lo bueno que es la IA.”, dijo Roy Wang, consejero general de Eightfold AI, una empresa emergente de Silicon Valley que produce software que se utiliza para ayudar a los gerentes de contratación.
La ley de la ciudad de Nueva York también adopta un enfoque para regular la I.A. eso puede convertirse en la norma. La medida clave de la ley es una “relación de impacto”, o un cálculo del efecto del uso del software en un grupo protegido de candidatos laborales. No profundiza en cómo un algoritmo toma decisiones, un concepto conocido como “explicabilidad”.
En aplicaciones que afectan la vida como la contratación, dicen los críticos, las personas tienen derecho a una explicación de cómo se tomó una decisión. Pero la IA como el software de estilo ChatGPT se está volviendo más complejo, tal vez poniendo el objetivo de una I.A. explicable. fuera del alcance, dicen algunos expertos.
“El enfoque se convierte en el resultado del algoritmo, no en el funcionamiento del algoritmo”, dijo Ashley Casovan, directora ejecutiva del Instituto de IA responsable, que está desarrollando certificaciones para el uso seguro de la IA. aplicaciones en el lugar de trabajo, el cuidado de la salud y las finanzas.
