La inteligencia artificial y las relaciones laborales(*)(**)
Artificial intelligence and labour relations
Jorge Toyama Miyagusuku(***)
Pontificia Universidad Católica del Perú (Lima, Perú)
Resumen: La inteligencia artificial está impactando en las relaciones laborales mediante la reducción de puestos, la creación de nuevas posiciones, la utilización de algoritmos en las decisiones laborales, entre otros. Su impacto se manifiesta desde la aplicación de la inteligencia artificial en la selección del personal, la relación laboral misma y su terminación. El presente artículo analizará los conflictos laborales que se derivan de la implementación de la inteligencia artificial, resaltando los puntos de encuentro como desencuentro entre la inteligencia artificial y el derecho laboral.
Asimismo, frente a la falta de regulación jurídica específica, se plantean posibles soluciones empleando el test de proporcionalidad como una herramienta para resolver conflictos laborales vinculados con la inteligencia artificial. Es importante buscar un equilibrio entre la eficiencia empresarial y la protección de derechos fundamentales de los trabajadores. Finalmente, el artículo destaca que los conflictos laborales deben prevenirse con diálogo social y políticas que transparenten la utilización como los efectos de la inteligencia artificial.
Palabras clave: Inteligencia artificial - Conflictos laborales - Derechos fundamentales - Protección de datos personales - Negociación colectiva - Derecho Laboral
Abstract: Artificial intelligence is impacting labour relations through job reduction, the creation of new positions, and the use of algorithms in labour decisions, among other ways. Its impact is evident in the application of artificial intelligence in personnel selection, the employment relationship itself, and its termination. This article will analyse the labour conflicts arising from the implementation of artificial intelligence, highlighting both the points of convergence and disagreement between artificial intelligence and labour law.
Likewise, in the absence of specific legal regulations, possible solutions are proposed, such as employing the proportionality test as a tool for resolving labour disputes related to artificial intelligence. It is crucial to balance business efficiency with the protection of workers’ fundamental rights. Finally, the article emphasizes that labour conflicts should be prevented through social dialogue and policies that ensure transparency in the use and effects of artificial intelligence.
Keywords: Artificial intelligence - Labour disputes - Fundamental rights - Personal data protection - Collective bargaining - Labour law
1. Introducción
La Inteligencia Artificial (IA) no deja de impactar en nuestras vidas, su crecimiento es vertiginoso, así como la incertidumbre sobre el futuro de la humanidad. Tan vertiginoso que este 2024, el Nobel de Física se ha otorgado a Geoffrey Hinton y John Hopfield, llamados “padrinos de la IA” por sus invenciones en aprendizaje automático con redes neuronales artificiales, es decir, para que las máquinas aprendan y también generen productos originales.
El impacto de la IA se puede apreciar en la vida cotidiana mediante las aplicaciones de traducción inmediata de idiomas, predicción del tiempo, servicios de atención al cliente automatizados y sistemas de reconocimiento facial (Abanto & Duffoó, 2023, p. 82). Igualmente, la IA puede estar generando mayores brechas derivadas del acceso a la tecnología y el déficit formativo en nuevas tecnologías de parte de la población laboral. Sin embargo, esta expansión en su implementación no trae aparejada mecanismos de regulación concretos. Por el contrario, nos encontramos ante un escenario donde los conflictos que ya estamos viviendo, así como los desafíos no encuentran respuestas jurídicas específicas.
La IA está en todo ámbito, está acompañando (y reemplazando en algunos casos) a la humanidad. De hecho, bancos, universidades, centros comerciales o clínicas están implementando la IA, especialmente en sus relaciones con sus clientes. Como consecuencia de ello, se puede apreciar una mejoría en la productividad y la eficiencia de procesos. Naturalmente, se desprenden retos relevantes para las relaciones laborales (Armas, 2021, pp. 85-88) derivado de los efectos en la dinámica diaria laboral. La IA está cambiando las relaciones laborales al modificar las interacciones entre empresas y trabajadores como se ejemplifica en el siguiente caso hipotético:
Un vendedor, con su huella digital, ingresa a la empresa. Reunión híbrida, conectado desde su celular y la Inteligencia Artificial Generativa (GenAI) corporativa comparte las acciones comerciales del día. Mientras visita clientes, ingresa a la plataforma registrando las ventas on time y en línea una empresa de logística recibe las reposiciones del día, mientras que las fotos que tomó en su recorrido registran las ventas de la competencia que alimenta la IA comercial de la empresa. Al final del día, no está en el top ten de vendedores y la GenAI le sugiere acciones comerciales y envía una amonestación por incumplir los protocolos de venta.
El vendedor, en la noche, trabaja en acciones innovadoras de ventas. Las implementa al día siguiente con buen resultado, pero sin seguir los comandos de la GenAI de la empresa. Al ser descubierto, es sancionado porque en la empresa solo se puede aplicar la GenAI ¿Estamos preparados para estos conflictos laborales? Las normas actuales no tienen una respuesta específica a estas controversias. El presente artículo abordará los principales impactos de la IA en las relaciones laborales. Asimismo, compartiremos las respuestas empresariales como sindicales ante el empleo de la IA en el ámbito laboral. Finalmente, se presentará una propuesta regulatoria para atender los conflictos laborales en aras de una gestión responsable como correcta de la IA con el menor impacto negativo posible para las empresas y trabajadores.
2. El impacto de la IA en las relaciones laborales
Antes de abordar en los impactos de la IA en el Derecho del Trabajo, se torna relevante conceptualizar la IA de manera general. Si bien existen diversas definiciones sobre IA, nos guiaremos de la definición desarrollada por la UNESCO: “son sistemas capaces de procesar datos e información de una manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control” (2021, p. 4). Asimismo, siguiendo la clasificación realizada por Regina Llopis, existen tres tipos de IA: (i) la superinteligencia donde la máquina ha conseguido superar la inteligencia del ser humano; (ii) la inteligencia general donde se busca replicar el razonamiento general del ser humano; y (iii) la inteligencia especial donde se realiza determinadas tareas a un nivel superior al de los humanos (Rázuri, 2023, p. 66).
Según Rázuri, nos encontramos en la etapa de inteligencia especial (2023, p. 66). La IA no solo automatiza tareas físicas, sino que presenta la finalidad de sustituir actividades intelectuales humanas. Podemos visibilizar la IA en los algoritmos, la robótica y en cualquier proceso tecnológico que domine la actividad humana en actividades destinadas para el cerebro (Granados, 2022, pp. 114-116). De la misma manera, el empleo de la IA se puede visualizar en diversas industrias, como, por ejemplo: (i) asistentes virtuales como Siri, Google Assistant y Amazon Alexa; (ii) el desarrollo por parte de Tesla y Waymo de vehículo autónomos; (iii) el diagnóstico médico y análisis de datos genéticos; (iv) los robots quirúrgicos como Da Vinci y Cyberknife (Abanto & Duffoó, 2023, p. 85).
Como lo sintetiza Granados, la IA es un sistema de simulación humana, donde la máquina adquiere la responsabilidad de aprender infinitamente, imitando la estructura de aprendizaje del cerebro humano, almacenando información y datos, y creando sistemas de integración entre ellos (2022, pp. 116-118), hasta superando, sin límites, los niveles alcanzados por la humanidad. El destino laboral, económico y social dependerá de la analítica, los datos y la IA (Irazabal, 2023, pp. 2 y 95). Por ello, es imprescindible empezar a visibilizar los conflictos que se derivan a raíz de la implementación de la IA en los diferentes campos de la actividad humana.
El modelo de las relaciones laborales está siendo transformado por la implementación de la IA. A raíz de ello, se están incorporando relevantes cambios sociales como económicos que están incidiendo en el Derecho del Trabajo y la forma de tutela del empleo (López, 2023, p. 23). La GenAI impacta en el mundo laboral. Pero en pocas empresas existen políticas desarrolladas o acuerdos con organizaciones sindicales. De acuerdo con la Organización Internacional del Trabajo [OIT], el impacto mayor no está en la pérdida apocalíptica de empleo (centrada en labores de apoyo administrativo). La transformación de las funciones laborales y la consolidación de posiciones GenIA son las que están modificando radicalmente las relaciones laborales.
Las empresas están optimizando sin parar, reduciendo plazos y mermas, mejorando sus productos constantemente, disminuyendo costos y batiendo récords de productividad. Sin embargo, la GenAI plantea conflictos, dilemas éticos y retos a los valores organizaciones. El aprovechamiento de la GenIA, también, genera una responsabilidad de las empresas y que supone una regulación que encuentre un equilibrio entre la necesidad de la GenAI y los derechos fundamentales de los trabajadores. Un difícil y delicado equilibrio, ponderando dos derechos (de la empresa y de los trabajadores), determinando los linderos de actuación de la GenAI.
El sometimiento de las decisiones laborales a los algoritmos se traduciría en posibles efectos que impactan en el ejercicio de los derechos fundamentales de los trabajadores. Otras consecuencias perjudiciales en la implementación del IA serían: (i) el aumento temporal de desempleo; (ii) el incremento de desigualdades (brechas digitales); y (iii) problemas vinculados con la manipulación de datos personales. No obstante, desde otra óptica, la prevención de riesgos laborales se presenta como una oportunidad en la implementación de la IA en el ámbito laboral, así como se abren nuevas especialidades laborales tales como ingeniero de datos, especialista en machine learning, ingeniero fintech, analista en inteligencia de negocios, etc. En ese sentido, será imprescindible encontrar un equilibrio entre la protección de los derechos laborales y el desarrollo tecnológico (Granados, 2022, pp. 122-126). Como se desarrollará más adelante, el impacto de la IA se manifiesta desde la aplicación de la IA en la selección de personal, la relación laboral misma y su terminación.
La utilización de la IA, en el ámbito laboral, representa un nuevo reto que el Derecho del Trabajo debe abordar. El empleo de la IA brinda oportunidades para mejorar las condiciones laborales como incentivar el empleo decente (Rázuri, 2023, pp. 72-73). Pero, hay conflictos laborales que se están generando con la implementación de la IA en las empresas. Ante la falta de regulación jurídica específica, nos centraremos en visibilizar estos conflictos derivados de la relación laboral y desarrollar sus posibles soluciones.
3. ¿La inteligencia artificial sustituirá a los humanos?
La incorporación de la IA impacta significativamente en el empleo. Ciertos puestos de trabajo están siendo sustituidos con sistemas de IA. Sin embargo, otros trabajos requieren una reconversión laboral. La IA se utiliza, para optimizar e integrarse, en la materialización de diversas actividades laborales. También, el empleo de la IA genera la aparición de nuevos puestos de trabajo. Ante esta Cuarta Revolución Industrial, se debe buscar la adaptación y capacitación en estas nuevas tecnologías en el ámbito laboral.
Como señalamos, el empleo de la IA en las empresas está desapareciendo puestos de trabajo en algunas industrias. Según López, la mitad de los empleos de la economía formal será probablemente destruido o impactado de manera relevante. Incluso ciertos sectores están siendo actualmente afectados. La automatización del empleo puede sustituir en el desempeño de determinadas tareas repetitivas (2023, pp. 24-28). Un ejemplo de ello se puede visibilizar en la automatización robótica en la manufactura. En estos casos, las tareas repetitivas y peligrosas son reemplazadas por robots de ensamblaje que son direccionados por la IA.
La IA está siendo empleada en los procesos laborales como su utilización en (i) la selección del personal, (ii) la preparación de información hasta de mediana complejidad para la toma de decisiones en las áreas de gestión humana y (iii) el análisis del desempeño de los trabajadores. De la misma manera, está siendo implementada en la supervisión como la toma de decisiones de terminación de las relaciones laborales (Rázuri, 2023, pp. 68-69).
El destacado ahorro en los costos y tiempo que implica la aplicación de la IA en los procesos de selección para las empresas ha propiciado un aumento en su implementación. Las evaluaciones automatizadas como entrevistas en forma digital son algunas de las características de estos procesos de selección con IA. Se torna relevante señalar que la investigación llevada a cabo por el software Korn Ferry determinó efectos positivos en la aplicación de la IA en los procesos de selección. Su implementación puede llegar a representar una reducción de tiempo invertido de más de un 60% en relación con el proceso de selección de personal tradicional. Asimismo, minimizaría el sesgo humano en un 43% con relación a los procesos de selección sin IA (Pérez, 2023, pp. 190-192).
No obstante, la utilización de los algoritmos para la gestión de recursos humanos dentro de una empresa podría terminar deshumanizando. Los algoritmos basan sus decisiones en una lógica probabilística; por lo tanto, se puede eliminar el factor y la comprensión humana en la adopción de decisiones (Sanguineti, 2024 p. 2). Como señala Pérez, si bien se desprenden efectos positivos en la aplicación de la IA a los procesos de selección como la optimización de los protocolos de selección y la reducción del tiempo invertido, se presentan serios inconvenientes. La automatización de las decisiones en la gestión humana genera la pérdida de puestos de trabajo, pero, a su vez, podría concretar la materialización de discriminaciones a raíz de la existencia de sesgos algorítmicos (2023, pp. 194-195). Para evitar los sesgos de discriminación, es relevante la supervisión humana en el empleo de la IA en los procesos laborales. Las máquinas deben ser un medio para optimizar procesos, mas no un fin en sí mismo ni reemplazar totalmente la compleja y sensible tarea de escoger a los mejores trabajadores de los procesos de selección.
A pesar de que ciertos puestos de trabajo dejan de existir, el elemento humano no será sustituido de manera total por la IA. Surgen nuevos puestos de trabajo: (i) los trainers que enseñan a la IA sobre el funcionamiento del cerebro humano; (ii) los explainers que, con base a la información compilada por la IA, deciden sobre el negocio; y (iii) los sustainers que analizan el impacto no económico de la operatividad de la IA (Rázuri, 2023, pp. 67-73). Como lo indica Irazabal, profesionales del sector como los científicos y los ingenieros de datos supervisan el Machine Learning como el Deep Learning (2023, pp. 12-13). La IA genera que las empresas inviertan en capacitaciones y formación continua del personal en aras de que adquieran nuevas habilidades que se adapten a la utilización de la IA.
De manera específica, la utilización de la IA, también, presenta un impacto en los profesionales del derecho. En diversos países latinoamericanos como México, Colombia, Argentina y Brasil se está aplicando la IA en sus sistemas judiciales. Aplicaciones como Expertius, Fiscal Watson, Prometea y Radar(1) son algunos ejemplos de implementación de la IA en los sistemas de justicia referidos (Abanto & Duffoó, 2023, pp. 87-93). También, los estudios de abogados utilizan IA, plataformas como Harvey, Kyra Systems, CoCounsel o Lawgeex no solo se emplean para resumir una sentencia, sino también para analizar un proceso judicial u obtener la mejor jurisprudencia de una infinidad de sentencias, preparar el borrador de un informe con la data primaria brindada, elaborar una presentación sobre un tema complejo o predecir los posibles aumentos salariales en una negociación colectiva.
La IA está transformando el perfil profesional de un abogado. La IA puede realizar resúmenes de sentencias, borradores de demandas y contratos complejos. Puede hasta ayudarnos con la redacción de este artículo. Los abogados pueden optimizar el tiempo y dedicarse al análisis de fondo de un mayor número de sentencias o emplear el tiempo para investigar o la creatividad. Existen características humanas que la IA no puede reemplazar: (i) la valoración de pruebas, (ii) testimonios, (iii) interpretación de las leyes (Irazabal, 2023, p. 2) o (iv) la sensibilidad para brindar una opinión jurídica sobre un caso complejo que requiere conocimiento del perfil de las partes, los temores de un cliente o la experiencia vivida en casos similares que no son públicos o no forman parte de la “fuente de información” de la IA.
Como lo desarrolla Abanto & Duffoó, la justicia laboral peruana presenta una excesiva carga procesal. Frente a ello, la utilización de la IA, como ha sucedido en otros países, se presenta como una posible solución. Se podría utilizar la IA para la gestión de archivos, la resolución de procesos iguales o similares, así como la atención de los usuarios. De la misma manera, se puede aplicar sistemas de IA como facilitadores de la conciliación laboral; finalmente, se podría utilizar la IA para realización autónoma de resoluciones de trámite en procesos no contenciosos (2023, pp. 93-98) o, inclusive proyectos de resoluciones en casos iguales o similares, así como preparar posibles proyectos de sentencias sobre la base de la dispersa jurisprudencia. Igualmente, la IA puede generar precedentes aplicables a un caso por resolver, los puntos controvertidos y de encuentros en un conflicto de intereses o hasta un proyecto de solución de la disputa.
Como profesionales del derecho, debemos conocer bien los alcances y limitaciones de la IA para desarrollar aquellas destrezas y conocimientos donde cada persona puede trabajar con mayor facilidad. Como siempre sucede, los cambios y crisis de la humanidad representan también una oportunidad para aquellos que encuentran una forma de trabajo en los nuevos sistemas que se presentan.
4. Los puntos de encuentro y desencuentro entre la inteligencia artificial y el derecho laboral
Siguiendo la línea de lo desarrollado, hay conflictos laborales a raíz de la implementación de la IA en las empresas. Las normas laborales peruanas no regulan la intervención de la IA en el acceso al empleo, la gestión del trabajo y los despidos. Los conflictos laborales se deben solucionar priorizando un delicado equilibrio entre la búsqueda de eficacia del empleador y la tutela de los derechos fundamentales de los trabajadores.
Usualmente, la implementación de la IA en las relaciones laborales presenta aspectos positivos en las siguientes áreas: (i) la seguridad laboral; (ii) la flexibilidad de horarios; y (iii) la supervisión del cumplimiento de derechos laborales (Rázuri, 2023, pp. 70-71), así como la supresión de actividades repetitivas y monótonas que no agregan valor. La aplicación de la IA se puede convertir en una herramienta importante para el empresario porque, por ejemplo, permite la determinación como prevención de riesgos laborales (Aguilar, 2020, pp. 290-292). Sin embargo, la utilización de datos personales en el control y vigilancia de los trabajadores se pueden materializar en severas afectaciones a derechos fundamentales de los trabajadores como el derecho a la privacidad.
En esta sección, nos aproximaremos a estos desafíos, mediante la visibilización de puntos de encuentro como desencuentro entre la IA y el derecho laboral. Para tal fin, en aras de presentar un escenario completo sobre lo que está sucediendo en el mercado de trabajo, se desarrollarán los siguientes temas: (i) los despidos y la modificación de condiciones de trabajo; (ii) el empleo de algoritmos en las decisiones laborales; (iii) la utilización de los datos personales y el control de emociones a raíz de la utilización de la inteligencia artificial; y (iv) finalmente, la inteligencia artificial y las relaciones colectivas de trabajo.
4.1. Los despidos y la modificación de condiciones de trabajo
Aproximadamente, el 40% del empleo mundial se encuentra expuesto a la IA (Cazzaniga et al., 2024). Como lo revela un análisis económico laboral del Departamento de Economía de Oxford y el Banco Mundial: entre 400 y 800 millones de personas serán desplazadas de su puesto de trabajo para el año 2030 (Álvarez, 2017).
De manera específica, cerca del 30% del empleo estaría impactado por la IA en el Perú (FMI, 2024). La incorporación de la IA, en las empresas, ocasionará pérdidas o cambios funcionales de puestos de trabajos. Los puestos de trabajo que se están suprimiendo son aquellos empleos físicos o de acción repetitiva; también, los trabajos donde la IA puede realizarlos con superioridad a la actividad humana (Armas, 2021, p. 85).
La incorporación de la IA en las empresas reduce posiciones laborales y, en otros casos, requerirá el desarrollo de nuevas habilidades digitales para los trabajadores. A raíz de ello, esto puede ocasionar la necesidad de ceses colectivos como se está materializando en ciertas empresas tecnológicas: Google, Microsoft y Duolingo (Cerullo, 2024). Este año Google ha despedido a más de mil empleados en varios departamentos con la finalidad de simplificar y aumentar su productividad en ciertas áreas (Heath, 2024).
Del mismo modo, la empresa Duolingo ha reemplazado a escritores y traductores contratados por la IA. A finales del 2023, la referida empresa ha despedido, aproximadamente, al 10 % de sus empleados (De Vynck, 2024). Otro caso sobre despidos, a raíz de la implementación de IA, es lo sucedido en el departamento de producción artística The New York Times. El reconocido periódico informó la eliminación de nueve de los dieciséis puestos de trabajo, en su departamento de producción artística, con la finalidad de aumentar la aplicación de tecnología de IA (Korach, 2024).
La aplicación de la IA está representando reestructuraciones significativas en el ámbito laboral de ciertos sectores. En ese sentido, surge la interrogante de si es posible el despido de los trabajadores por la automatización de sus puestos de trabajo. Desde el ámbito peruano, no existe una respuesta clara a esta problemática. La Corte Suprema de la República emitió la Casación laboral No. 21131-2017, donde se utiliza la palabra “automatismo” como motivo de despido colectivo por razones tecnológicas, sin mayor desarrollo. Del mismo modo, la Dirección General de Trabajo emitió las resoluciones administrativas RDG 003-2019/MTP y RDG 003-2013/MTP donde se ha tratado de despidos colectivos a raíz de incorporación de tecnologías, más no de manera específica a razón de la implementación de IA (Armas, 2021, p. 91).
Consideramos que la causal de cambio tecnológico sería el marco para un cese por razones objetivas; es decir, un proceso de terminación colectiva de trabajadores por la implementación de la IA. Estos procesos se podrán materializar garantizando los derechos de los trabajadores, el procedimiento de ley, así como, aun cuando no está lamentablemente en las normas legales, el pago de indemnizaciones equivalentes a un despido arbitrario dada la carencia de protección social en el país ante el desempleo y, antes que ello, de ser posible por existir posiciones vacantes, brindar a los trabajadores la oportunidad de aprender las nuevas habilidades que requiere la IA en la empresa.
La incorporación de las innovaciones relacionadas con la IA desembocará en profundas transformaciones en materia de empleo. Pero, la utilización de la IA no implicará una destrucción masiva del empleo como tampoco permitirá modificar su base jurídica laboral de protección (López, 2023, p. 28). Existirán puestos que no podrán sostenerse por sustitución o cambio de perfil profesional. Sin embargo, en otros casos, la IA implicará una variación en las condiciones laborales. Se requerirá que los trabajadores aprendan nuevas habilidades para adaptarse a esta nueva realidad. La IA puede ser empleada para que el trabajo sea más preciso como especializado; como consecuencia de ello, se mejorarían las condiciones laborales en estos casos. De otro lado, es una obligación de los Estados la capacitación del personal en aras de que se adapten a estas nuevas tecnologías (Rázuri, 2023, pp. 72-73), pero, desde esta perspectiva, en nuestro país se aprecia muy pocos esfuerzos por brindar capacitaciones y formación profesional a los trabajadores.
Se torna necesario seguir un modelo que permita beneficiarse de la aplicación de la IA sin deteriorar el trabajo humano. Se debe buscar una complementariedad entre la relación de la IA y el trabajo humano; de este modo, se debe perseguir una modificación en el modelo productivo, mas no de los trabajadores hasta donde resulte posible (Granados, 2022, pp.126-127). Las GenIA traen consigo brechas digitales, desafíos para los no nativos digitales y una responsabilidad de las empresas para emprender procesos de formación continua, brindar oportunidades a los trabajadores para que adquieran las nuevas habilidades o puedan reubicarse, así como retar constantemente a la organización para que la creatividad y originalidad humanas sean la fuente de la sostenibilidad y la competitividad.
Las interacciones humanas con la GenAI son críticas. Los casos de sustitución, revisión y participación humana en la mejora de la GenAI son sensibles y complejos, especialmente para evitar que, fruto de la automatización y repetición de procesos, el talento se aleje y los índices de satisfacción laboral entren en picada. Hay nuevos retos para las empresas en la retención del talento, la rotación y la búsqueda de la “mejora continua” en medio de la GenAI. Ese es el reto de las mejores organizaciones: encontrar las mejores acciones para cada necesidad, para cada tiempo, para cada trabajador porque, como decía Saint-Exupéry, “lo esencial es invisible a los ojos”.
4.2. El empleo de algoritmos en las decisiones laborales
Los algoritmos se encargan de descifrar los patrones existentes con la información y datos proporcionados y generan un modelo que pueda replicar las mismas reglas implícitas con nuevos datos (Irazabal, 2023, pp. 22, 67). Como lo señala García, los algoritmos se pueden manifestar de las siguientes maneras en las relaciones laborales: (i) la implementación de la lógica algorítmica en la adopción de decisiones de la empresa; (ii) el empleo de los algoritmos en los procesos de selección de personal; y (iii) la utilización de los algoritmos con la finalidad de monitorear a los trabajadores mediante el control y seguimiento empresarial (2023, pp. 89-103).
Si bien la aplicación de algoritmos en las relaciones laborales puede representar la optimización de procesos como la contratación del personal o la prevención de accidentes de trabajo, podría generar impactos serios en los derechos fundamentales de los trabajadores como el derecho a la privacidad y no discriminación. Según Pérez, los sesgos en algoritmos se pueden materializar en los datos y el diseño. Por un lado, la prescindencia de inclusión de diversidad como representatividad real de ciertos grupos vulnerables en el banco de datos que requieren los algoritmos para su funcionamiento se puede materializar en el sesgo de los datos (2023, p. 202).
La IA puede reproducir los sesgos inherentes al ser humano en sus datos. Si en una consultora de recursos humanos presentan más currículos de hombres, la IA reproducirá este sesgo en la contratación (Irazabal, 2023, p. 5). De manera ejemplificativa, las decisiones automatizadas pueden evidenciar ciertos sesgos a raíz de la prescindencia de representación femenina en ciertos sectores como ocurrió con la empresa Amazon. La utilización de un algoritmo digital, por parte de Amazon, para realizar su proceso de selección personal, desembocó en que el algoritmo sesgó de manera discriminatoria a los currículos presentados por mujeres. La razón se originó en que los datos almacenados por diez años eran de manera mayoritaria de currículos de hombres y el algoritmo terminaba excluyendo de manera automática los currículos de mujeres en el proceso de selección (Pérez, 2023, pp. 201-202).
Por otro lado, la concretización de prejuicios presentados, por los creadores, en el diseño de los algoritmos se puede materializar en decisiones sesgadas (Pérez, 2023, p. 202). Los algoritmos pueden incluir ciertos sesgos en su diseño. La aparente evaluación objetiva en los procesos de selección de candidatos se puede materializar en la perpetuación de sesgos y discriminación (García, 2023, pp. 89-96). Diversos expertos han identificado ciertos efectos negativos en la implementación de la IA en los procesos de selección: la reproducción en los algoritmos de estereotipos que se pueden materializar en discriminaciones inadvertidas. La aplicación de la IA, en los procesos de selección, no está exenta de riesgos y sesgos a pesar de que pueda brindar resultados más objetivos (Pérez, 2023, pp. 188-199).
De manera ejemplificativa, la Relatora Especial sobre Racismo y la Discriminación Racial de las Naciones Unidas comunicó que Paraguay estaba aplicando un sistema de empleo digital que aceptaba la filtración de posibles trabajadores con uno de sus indicadores como la raza. A raíz de ello, al encontrarse el sistema solo en español, se terminó restringiendo el acceso a las personas pertenecientes de una etnia determinada que no hablaban español (Reyes, 2023, p. 33). Como lo refiere Irazábal, el sesgo es inherente al ser humano. Un programa puede presentar sesgos, a pesar de que el programador no se proponga conscientemente a introducirlos en su diseño. A través de la IA, tendríamos la oportunidad de ser conscientes de estos sesgos y poder corregirlos (2023, p. 4).
La garantía de los derechos fundamentales es crucial frente a la toma de decisiones automatizadas por parte de los empresarios (García, 2023, pp. 105-109). Los sesgos son casi imperceptibles para los postulantes o trabajadores, lo cual dificulta la realización de reclamos u observaciones. No estamos ante un clásico aviso discriminatorio en un diario o en un portal de trabajo con requisitos marcadamente ilegales como sexo, universidad de procedencia, edad, etc. Por ello, es vital un control humano (recursos humanos) para evitar que los sesgos algorítmicos afecten el acceso al empleo. Se debe informar a los postulantes, en el proceso de selección de personal o a los trabajadores sobre la implementación de la IA en los procesos laborales. Esta transparencia algorítmica la podemos encontrar en la denominada Ley Rider de la Unión Europea, publicada en el Diario Oficial de la Unión Europea el 23 de octubre del 2024.
Hay aspectos de esta ley que son relevantes de destacar: (i) se presentaron límites al tratamiento de datos personales mediante sistemas automatizados de supervisión; (ii) se exigió transparencia respecto a sistemas automatizados de supervisión o toma de decisiones; y (iii) se estableció la obligación de las empresas de rectificar cualquier decisión vulneratoria de derechos tomada por la IA. Esta es una de las primeras normas que establece límites a la implementación de algoritmos en las decisiones laborales.
En esa misma línea, el Reglamento 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024, presenta normas armonizadas sobre IA con restricciones a la aplicación de algoritmos en las decisiones laborales que se tornan relevantes mencionar. Para ello, con base al Anexo III, los sistemas de IA empleados para la contratación, selección de personal, promoción y terminación de relaciones laborales son catalogados como Sistemas de IA de Alto Riesgo. Este grupo, también se encuentra conformado por los sistemas de IA que asignan tareas, monitorean y evalúan el desempeño de los trabajadores.
Frente a ello, se establecen ciertas obligaciones y restricciones en aras de proteger los derechos de los trabajadores mediante un marco que asegure una utilización ética como responsable de la IA en el ámbito laboral. En ese sentido, es importante resaltar ciertos aspectos. En primer lugar, los sistemas de IA deben ser transparentes y posibilitar una interpretación como utilización correcta de sus resultados. Asimismo, se debe brindar instrucciones claras y completas sobre su utilización. En ese sentido, la información deberá contener las capacidades, limitaciones como riesgos del sistema.
En segundo lugar, es indispensable la supervisión humana de manera efectiva. Para ello, es necesario que las personas responsables presenten la competencia y formación como autoridad necesaria. En tercer lugar, los empleadores tienen la obligación de informar a los trabajadores afectados como a sus representantes sobre la utilización de Sistemas de IA de Alto Riesgo. En ese sentido, será imprescindible una evaluación de manera previa a la implementación con respecto a los impactos en los derechos fundamentales.
En cuarto lugar, será fundamental el cumplimiento de la normativa de protección de datos como la implementación de medidas técnicas y organizativas en aras de proteger los datos personales. Finalmente, los empleadores presentan la obligación de garantizar el uso adecuado como la supervisión del sistema de IA. De este modo, se debe buscar que mediante los sistemas de IA no se materialicen discriminaciones, por ejemplo. Entonces, si se utiliza la GenIA para mejorar la productividad, no debe tomarse decisiones laborales automatizadas basadas solo en algoritmos como promociones, bonos, renovaciones de contratos o despidos. Es necesaria la intervención “humana” para evitar los sesgos y las discriminaciones.
Las empresas deben considerar en las directivas internas los procesos que se implementan y los controles “de calidad” humana en la aplicación de acciones algorítmicas, así como auditorías periódicas y una validación adicional cuando se trata de acciones de impacto como puede ser un despido por bajo rendimiento. Como lo desarrolla Irazabal, existen ciertas maneras de prevenir sesgos en la IA: (i) mediante la incorporación de datos representativos y auditorías; (ii) la implementación de criterios de separación para lograr que las predicciones del modelo no sean dispares; (iii) la elaboración de un plan metodológico que establezca un plan con la finalidad de recolectar, seleccionar como organizar los datos para el modelo; (iv) la incorporación de un equipo multidisciplinario con el objetivo de que pueda identificar los sesgos en la IA; (v) contar con un plan para etiquetar datos; y (vi) la presencia de juristas con competencias técnicas que sepan identificar sesgos (2023, pp. 5-6).
Como hemos visto, la IA puede influir tanto las decisiones de contratación laboral como la atribución de productividad con efectos salariales (Toyama & Rodríguez, 2023, p. 257; Lara, 2020, p. 43). Por ejemplo, antes del inicio de la relación laboral, los empleadores gestionan digitalmente sus procesos de selección para optimizar sus decisiones. Esto incluye el análisis de datos de potenciales trabajadores a partir de diversas fuentes digitales, como Instagram o LinkedIn, cuya información puede ser sistematizada por una IA para detectar patrones de conducta y filtrar los currículums de los candidatos (Toyama & Rodríguez, 2023, p. 257). Otro ejemplo son los sistemas de IA utilizados por diversas apps de delivery para establecer los niveles de pago de los repartidores con base en el nivel de oferta y demanda, así como las calificaciones de los usuarios en la plataforma (Lara, 2020, p. 43).
No obstante, como señalan Guaña-Moya y Chipuxi-Fajardo, los algoritmos de IA pueden estar influenciados por sesgos presentes en los datos de entrenamiento, lo que puede resultar en decisiones injustas o discriminatorias en ámbitos como la contratación (2020, p. 927). Como señala Lara, aunque la toma de decisiones automatizadas, con base en sistemas de IA, ha facilitado el procesamiento de grandes flujos de información (2020, p. 42), estas tienen el potencial de afectar de forma considerable los derechos y libertades de las personas, como el derecho a la intimidad o el derecho a la igualdad y la prohibición de la discriminación (2020, p. 43). En definitiva, la eficiencia y el ahorro de costes no deben ocultar los riesgos en su aplicación; en ese sentido, se deben plantear sistemas de regulación que garanticen combatir los sesgos o desviaciones de la implementación de IA que generen vulneraciones a los derechos humanos (2020, p. 43).
Finalmente, como se desarrollará más adelante, la negociación colectiva cobra un papel crucial en la regulación del uso de algoritmos, a pesar de que aún no exista una presencia predominante en los convenios colectivos (García, 2023, pp. 118-119). El diálogo social puede permitir una mejor regulación del uso de algoritmos mediante convenios colectivos y tener una mayor legitimidad en su implementación.
4.3. La IA, los datos personales y el control de emociones
A raíz de la implementación de la Big Data y la IA, los empleadores pueden recopilar como analizar una amplia cantidad de datos personales sobre los trabajadores con aras de generar perfiles específicos. Asimismo, esto permite que los empleadores se encuentren en la capacidad de tomar decisiones significativas de manera automatizada. (Montes, 2024, pp. 297-299). Los algoritmos pueden procesar datos vinculados con la relación laboral para contrastarlos con la otra información procesada y llegar a conclusiones. Con base a ello, el algoritmo puede ayudar a tomar decisiones relacionadas con la gestión humana (Toyama & Rodríguez, 2019, p. 262).
Sin embargo, la posible aparición del sesgo algorítmico podría materializarse en discriminaciones contra grupos vulnerables como acentuar las desigualdades existentes. La aplicación de algoritmos en las relaciones labores se debe materializar respetando los derechos fundamentales del trabajador como su derecho a la intimidad, privacidad y no discriminación. De la misma manera, se debe buscar proteger los datos biométricos de los trabajadores en la implementación de la IA para monitorear las jornadas laborales o el rendimiento de los trabajadores.
Actualmente, hay empresas que utilizan la IA como una herramienta para prevenir accidentes de trabajo y, como medidas preventivas, se terminan incorporando aplicativos y dispositivos para controlar la somnolencia, pulseras de sueño, entre otros. Este es el caso del sistema de monitoreo preventivo de fatiga y somnolencia LOGIFITY. Mediante este sistema digital, se controla el sueño y la somnolencia de los trabajadores en aras de garantizar su seguridad y protección. En la misma línea, el DDM es un sistema que monitorea el estado de vigilancia de los conductores mediante un seguimiento con base a los movimientos de los párpados. Frente a patrones inseguros, la cámara transmite una alarma con la finalidad de mantener en estado alerta al conductor y prevenir accidentes de trabajo. Estos sistemas de vigilancia y monitoreo de calidad del sueño con IA suelen ser incorporados como parte de las políticas empresariales.
De la misma manera, con el objetivo de mejorar la salud mental y emocional de los trabajadores, se pueden implementar sistemas como Nexu. Esta plataforma con IA permite el acceso de manera inmediata y segura de consultas en psicología, medicina y nutrición a los trabajadores. Se busca optimizar el bienestar como productividad de los trabajadores (Farmacosalud, 2024). Un ejemplo de ello es la plataforma colombiana “Bumii” que previene el agotamiento de los trabajadores, mediante el análisis del estado emocional de cada trabajador y, como consecuencia, se puede monitorear el clima emocional de la empresa.
Como se aprecia, la IA está siendo utilizada como herramienta para controlar el rendimiento de los trabajadores y prevenir accidentes de trabajo. Sin embargo, ¿cuál es el límite a la materialización de este control con IA de los trabajadores? ¿Las pulseras para monitorear el sueño de los trabajadores deben ser usadas solo los días laborables? La respuesta lógica sería afirmativa. Sin embargo, tal vez por la naturaleza que realiza el trabajador se requiera monitorear el sueño desde el domingo en la noche en su casa dado que el trabajador labora el lunes. De manera ejemplificativa, un conductor que trabaja de lunes a viernes deberá empezar la semana laboral sin signos de somnolencia para prevenir accidentes en su jornada laboral y el uso de la pulsera de sueño será necesaria desde el domingo que no es un día laboral.
La naturaleza de la actividad que realizan los trabajadores será la primera aproximación para responder la interrogante sobre los límites a este control y vigilancia de los empleadores con IA. De otro modo, derechos fundamentales del trabajador como el derecho a la privacidad pueden ser vulnerados. La supervisión y el control, en el ámbito laboral, mediante cámaras de seguridad o el denominado GPS, también, deben materializarse en un equilibrio entre la eficiencia empresarial y los derechos fundamentales del trabajador. Para ello, como abordaremos más adelante, la realización del test de proporcionalidad se traducirá como una respuesta a este como a los demás conflictos laborales desarrollados a lo largo de este artículo.
Por otro lado, el control biométrico de los trabajadores mediante sistemas de reconocimiento facial o el uso de huellas dactilares deben materializarse garantizando los derechos fundamentales del trabajador como protegiendo sus datos biométricos. En estos casos, se aplicaría la normativa referida a la protección de datos personales. Con base al artículo 12 de la Ley de Protección de Datos personales(2) (en adelante, LPD), el tratamiento de datos personales debe materializarse de acuerdo con los siguientes principios rectores: (i) legalidad, (ii) consentimiento, (iii) finalidad, (iv) proporcionalidad, (v) calidad, (vi) seguridad y (vii) nivel de protección adecuado.
En este sentido, el trabajador deberá ser informado de manera previa sobre la finalidad del tratamiento de sus datos (artículo 18 de la LPD) y si se trata de un procesamiento de datos biométricos, mediante una plataforma con IA, se deberá comunicar el propósito de su implementación al trabajador. Sumado a ello, con base al artículo 23, se puede desprender que el solo tratamiento de los datos personales del trabajador no puede propiciar la adopción de una decisión que propicie efectos jurídicos significativos en contra de él. No se puede tomar una decisión completamente automatizada, como la imposición de una sanción, con el solo sustento de la recopilación de datos personales con IA.
En esa misma línea, como señala el artículo 72 del Reglamento de la LPD, en caso el tratamiento de datos forme parte de un proceso de toma de decisiones sin participación del titular de los datos, se le deberá comunicar a este. En caso de que se utilicen datos biométricos en la aplicación de algoritmos, se torna necesario informar de esta situación a los trabajadores.
La protección de datos de los trabajadores también debe ser considerada y transparentada, no solo por temas legales sino porque es correcto y justo. Estamos ante datos sensibles como rutas de trabajo, huella digital, salud e historia médica, desempeño y rendimiento, etc. En definitiva, se deben establecer protocolos estrictos sobre su uso, estrictamente limitados a la necesidad laboral, así como la mayor reserva sobre la información privada.
4.4. Relaciones colectivas
La implementación de la IA está incidiendo en los sistemas de relaciones laborales como el ejercicio de la autotutela colectiva de los intereses del trabajo asalariado (Sanguineti, 2024, p. 1). En varios sectores, los sindicatos están ejerciendo acciones colectivas a raíz de despidos por algoritmos y la automatización de miles de puestos de trabajo. Como hemos desarrollado, la utilización de la IA, en el ámbito laboral, genera severos impactos en las relaciones laborales. Como lo refiere Sanguineti, se puede desprender las siguientes consecuencias en el ejercicio de los derechos de autotutela colectiva: (i) el aumento de la posibilidad de producirse discriminaciones antisindicales sistemáticas; y (ii) la reducción del poder global de negociación de los trabajadores (2024, pp. 4-6).
Frente a este panorama, se torna crucial el fortalecimiento del papel de la negociación colectiva como una forma de control de la IA en las empresas. Como lo refiere García, frente al protagonismo que está adquiriendo la utilización de algoritmos, la negociación colectiva se convierte en un instrumento imprescindible en esta nueva era de cambio tecnológico (2023, p. 118). Asimismo, cabe resaltar que la IA puede ayudar a la propia gestión sindical mediante la creación de cartas, comunicados, cláusulas de convenio colectivo, entre otros. Es decir, la IA puede ser utilizada para la estrategia, gestión, organización o actividades del sindicato.
Si bien se pueden encontrar intereses contrapuestos entre los empleadores y trabajadores, con relación a la implementación de la IA, el diálogo social puede compaginar estos intereses. En países como España, se están pactando convenios colectivos para regular la utilización de IA. Este es el caso del XXIX Convenio Colectivo de la empresa El Norte de Castilla S.A. que reguló el periodo 2021 al 2023. En este acuerdo se establece que la implementación de nuevas tecnologías como la IA deberá ser informada al Comité de la Empresa y si la IA afecta un puesto de trabajo, se brindarán capacitaciones a los trabajadores. De la misma manera, el Convenio Colectivo de Air Nstrum Training Operations (2023-2025), mediante su artículo 10, regula la necesidad de informar al Comité de Empresa la utilización de algoritmos de decisión para cualquier proceso laboral.
Mediante convenios colectivos se puede pactar una transparencia de información referida a la implementación de la IA en las empresas. También se pueden establecer otros límites a la utilización de la IA en los convenios colectivos como sucedió en el caso del Sindicato de Guionistas de Estados Unidos (en adelante, WGA) y el Sindicato de Actores de Pantalla – Federación Estadounidense de Artistas de Televisión (en adelante, SAG-AFTRA). El 2 de mayo del 2023, WGA inició una huelga que duró casi cinco meses. Los motivos que suscitaron la huelga fueron el pago de regalías y la falta de regulación del uso de la IA en la redacción de guiones. El 13 de julio de 2023, la SAG-AFTRA se unió a la huelga.
La utilización de la IA preocupaba tanto a la WGA como a la SAG-AFTRA, pues su implementación podría significar la pérdida de puestos de trabajo. Por ello, luego de diversas negociaciones con la AMPTP, que representa a los estudios Paramount, Warner Bros, Discovery, Amazon y Netflix, se establecieron acuerdos colectivos con cambios de condiciones de trabajo (Pequeño, 2023). Es importante resaltar los siguientes aspectos del convenio colectivo firmado con la SAG-AFTRA: (i) el necesario consentimiento por uso de réplica de la imagen o voz del actor creada por IA, inclusive después de su muerte; (ii) la compensación adicional por la creación y utilización de su réplica en proyectos adicionales; y (iii) cualquier alteración del contenido grabado, por parte del actor, deberá ser explicado y luego autorizado.
Con respecto al convenio colectivo firmado con la WGA, se puede destacar los siguientes aspectos: (i) las productoras no pueden exigir que el escritor utilice Software de IA como Chat GPT; (ii) los guionistas podrán optar por utilizar IA, en coordinación con la empresa; y (iii) las productoras no podrán utilizar las creaciones de los escritores para entrenar a la IA generativa. Este caso es uno de los más relevantes hasta el momento sobre la presión sindical y la firma de convenios colectivos que establecen límites preventivos al uso de la IA.
Siguiendo esa línea, la regulación de límites a la implementación de la IA, mediante convenios colectivos, también se puede apreciar en el sector periodístico. Este es el caso del sindicato editorial de Mashable, Lifehacker y PCMag que logró protecciones contra la IA generativa en su convenio colectivo con Ziff Davis. En ese sentido, mediante un acuerdo colectivo se pactaron nuevas condiciones frente a la aplicación de la IA: (i) protección frente al despido y la reducción de salarios por uso de IA; (ii) los contenidos creados por IA deberán tener revisión humana; y (iii) la prohibición de uso de IA simular ser un empleado (Deck, 2024).
Otra experiencia relevante de destacar es el acuerdo de asociación suscrito entre American Federation of Labor and Congress of Industrial Organizations (en adelante AFL-CIO) con Microsoft Corp. Este acuerdo es pionero en realizarse entre una organización laboral con una empresa tecnológica global enfocada en tratar temas de IA (Blanchet, 2024). Como parte de sus objetivos principales se presenta la posibilidad de compartir información sobre las tendencias de IA con líderes sindicales y trabajadores. Asimismo, se emplearán las perspectivas de los trabajadores en la implementación de la IA. Por último, se formarán políticas públicas que contribuyan con las necesidades como habilidades de los trabajadores frente a la IA (Blanchet, 2024). En definitiva, se puede desprender el establecimiento de colaboraciones entre empleadores y sindicatos frente a los cambios que implica la utilización de la IA.
Para finalizar, también mediante convenios colectivos se puede tutelar los datos personales de los trabajadores. Este es el caso de la regulación de los denominados “wearables” mediante convenio colectivo. Los basquetbolistas de la NBA suscribieron un convenio colectivo que estableció límites para el uso de wearables. Se restringió la utilización de datos recopilados por los sensores a fines deportivos, más no para fines económicos o de negociación contractual (Blanchet, 2024). Además, como parte de las disposiciones acordadas, se crearon comités evaluadores para el uso de estos dispositivos con IA.
Frente al escenario de incertidumbre jurídica, la regulación preventiva de la IA a través de convenios colectivos es una opción que se puede evaluar para que se legitime el uso de la IA en las relaciones laborales sin descuidar la tutela de los derechos fundamentales de los trabajadores. Se pueden pactar medidas de alcance general que garanticen los derechos de los trabajadores como la prohibición de sistemas de IA que clasifiquen a los trabajadores según sus opciones políticas o afiliación sindical. De la misma manera, se debe buscar proteger el derecho a huelga mediante la prohibición de la materialización del denominado esquirolaje tecnológico (Sanguineti, 2024, pp. 4-8). O, como mínimo, regular la transparencia en el uso de la IA, así como las consecuencias posibles en las relaciones laborales. Sin embargo, en caso de que no existan sindicatos en la empresa, se torna relevante que los empleadores sean transparentes con los trabajadores sobre el uso de la IA a través de políticas generales.
5. Una posible salida: el test de proporcionalidad
A lo largo de este artículo, hemos visibilizado los diversos conflictos que se generan a raíz de la implementación de la IA en el ámbito laboral. Gran parte de estos conflictos implican la oposición de derechos fundamentales como son el derecho a la libertad de empresa del empleador contra derechos fundamentales de los trabajadores como intimidad, no discriminación, etc. Dependerá de cada caso en específico, los posibles derechos fundamentales del trabajador que se pueden restringir o no con la implementación de la IA. Sin embargo, es preciso mencionar que, en casos como el control de emociones en aras de prevenir accidentes de trabajo, no solo está en la balanza el derecho a la libertad de empresa del empleador: mediante la implementación de dispositivos que busquen prevenir la fatiga en los trabajadores, se encuentra la finalidad de proteger la seguridad y salud en el trabajo.
Estos factores deberán ser tomados en cuenta al momento de realizar el test de proporcionalidad para cada caso en específico ¿Qué es el test de proporcionalidad? El Tribunal Constitucional (TC) peruano ha adoptado el test de proporcionalidad como un principio general del derecho, cuyo origen se encuentra en el artículo 200 de la Constitución Política del Perú. Este artículo contiene la cláusula del Estado de Derecho, que garantiza la seguridad jurídica y la justicia material (Sentencia del Tribunal Constitucional recaída en el Expediente 0010-2002-AI/TC, fundamentos 195-197). Este test fue introducido formalmente en la jurisprudencia peruana en la Sentencia del Tribunal Constitucional recaída en el Expediente 0010-2002-AI/TC de febrero de 2003, en la que el TC afirmó que debe aplicarse ante cualquier acto restrictivo de un derecho fundamental y no solo bajo estados de excepción (Grández, 2009, p. 6; Sentencia del Tribunal Constitucional recaída en el Expediente 0010-2002-AI/TC, fundamento 195).
El TC tomó como referencia lo desarrollado por la jurisprudencia del Tribunal Federal Alemán que, a su vez, recogió la estructura planteada dogmáticamente por Robert Alexy (Grández, 2009, p. 9). El establecimiento de una estructura propia ha respondido a cierto “grado de desarrollo y estandarización de la jurisprudencia nacional” (Grández, 2009, p. 11), especialmente, en lo que respecta al derecho laboral. Como señala Arce, la estructura tripartita del test de proporcionalidad (idoneidad, necesidad y proporcionalidad en sentido estricto) puede complejizarse en el ámbito del derecho laboral por la contraposición entre el poder de dirección del empleador, sustentado en la libertad de la empresa, y los derechos fundamentales del trabajador (2021, p. 85).
Con respecto a su contenido, se tiene que la evaluación de idoneidad consiste en el análisis de la relación de causalidad entre el medio adoptado y el fin propuesto (Sentencia del Tribunal Constitucional recaída en el Expediente 0045-2004-AI, fundamento 38). Mientras que el análisis de necesidad consiste en examinar si existen medios alternativos, menos gravosos, con respecto al derecho fundamental que se estaría restringiendo con la medida. Se trata de una comparación entre medios para determinar si es que el medio hipotético sería igual de efectivo para alcanzar el fin que busca la medida (Sentencia del Tribunal Constitucional recaída en el Expediente 0045-2004-AI, fundamento 39). Por último, el análisis de proporcionalidad en sentido estricto o ponderación consiste en una comparación entre el grado de realización u optimización del fin constitucional y la intensidad de intervención en el derecho (Sentencia del Tribunal Constitucional del Expediente 0045-2004-AI, fundamento 40).
Es preciso señalar que este método no está exento de críticas, pues, como señala Arce, no elimina la subjetividad del operador jurídico, aunque se aplique la metodología que Alexy planteó en la “Teoría de la Argumentación Jurídica” (2021, p. 87). En el ámbito laboral, donde no existe una regulación específica para ciertos conflictos, como los desatados a partir del uso de la IA, el test de proporcionalidad se presenta como una solución efectiva. Por ejemplo, cuando se utilice la IA para el análisis del rendimiento de empleados, el TC podría utilizar el referido test para evaluar la proporcionalidad de un despido basado en una decisión automatizada. Esto implicaría analizar la idoneidad de la medida para mantener la disciplina laboral; la necesidad del despido frente a otras sanciones posibles; y la ponderación entre el impacto del despido en el trabajador y el beneficio para la empresa.
Veamos otro caso. Para el empleo de la IA en el monitoreo de las rutas de trabajo y velar por la seguridad de los vendedores, el test del TC es útil para analizar que estamos ante una medida idónea, necesaria y proporcional que permite supervisar el trabajo de los vendedores, así como rutas seguras comerciales. Pero, no se cumpliría el test de proporcionalidad si los trabajadores no conocen sobre el uso de la IA, su finalidad o no se establecieran límites como no monitorear en horarios de refrigerio o días feriados.
En suma, consideramos que los conflictos laborales que genera la IA pueden encontrar en el test de proporcionalidad del TC una solución ante la falta de regulación jurídica específica.
6. Reflexiones finales
La utilización de IA, en diversos ámbitos, ha traído consigo numerosos beneficios; sin embargo, también, plantea importantes desafíos éticos. Como señala Lara, el siglo XXI se caracteriza por un notorio aumento de las decisiones automatizadas realizadas por sistemas de IA que, inclusive, sin intervención humana generan efectos considerables en el devenir de las personas tanto en el ámbito político, económico, social y legal (2020, p. 42). Frente a ello, se han planteado diferentes principios jurídicos que deben guiar su desarrollo e implementación: la transparencia, la responsabilidad y el respeto a los derechos humanos (Guaña-Moya & Chipuxi-Fajardo, 2023, p. 924).
La UNESCO señala que desde 2016 más de 30 países han aprobado leyes vinculadas al uso de las IA. En el año 2024, el debate sobre proyectos de Ley en dicha materia ha aumentado en diferentes órganos legislativos a nivel global (2024, p. 4). En Perú, la Ley 31814(3) y la publicación del proyecto de su Reglamento(4) buscan promover el uso de la IA para el desarrollo económico y social del país. Pero estamos ante disposiciones genéricas, carecen de detalles específicos sobre su aplicación en el ámbito laboral. Como lo señala Reyes, en el ámbito laboral, el proyecto de reglamento se limita a encargar a la Secretaría de Gobierno monitorear el impacto de la IA y enfatiza en los riesgos asociados a la contratación, despido y selección de personal (2024, p. 9). Nos encontramos ante un escenario de incertidumbre jurídica en materia laboral.
Por ello, es imprescindible que se adopte una normativa que aspire a imponer ciertas garantías como limitaciones a la implementación de la IA como está sucediendo en la Unión Europea con su Ley y Reglamento sobre IA. Estas regulaciones presentan un enfoque basado en normas que se centra en las competencias reguladoras del Estado en organismos públicos o privados; es decir, este enfoque reconoce que los organismos de normalización elaboran normas técnicas para la aplicación de normas obligatorias (UNESCO, 2024, p. 26).
Entonces, se pueden imponer prohibiciones como la no adopción de decisiones absolutamente automatizadas sin la intervención humana o el uso razonable de la IA sin afectar los derechos fundamentales de los trabajadores. De esta manera, se preservarían derechos fundamentales como la privacidad y no discriminación de los trabajadores. Mientras el órgano legislativo se encamina en esta tarea, los jueces y la SUNAFIL deberían resolver los casos sobre implementación de la IA en el ámbito laboral buscando un equilibrio en cada caso. La aplicación del test de proporcionalidad del TC se plantea como una posible solución a los conflictos laborales derivados de la aplicación de la IA.
Con respecto a la respuesta de las empresas frente a la implementación de la IA, planteamos que la regulación podría darse a través del propio reglamento interno de la empresa o políticas de trabajo por áreas o procesos. Lo ideal es que pueda ser cocreada, quizás a partir de una propuesta de la empresa, sea socializada internamente, se promueva aportes y foros internos para que se logre lineamientos generales de la GenAI que tienen mayor legitimidad. Una GenAI nacida del compromiso es lo ideal, no de los deberes ni de los procesos impuestos.
Los lineamientos internos deberían contener las competencias y habilidades que se requieren con la GenAI, transparentar los procesos que demandan reconversión, las funciones que deben rediseñarse, puestos que necesitan reeducación permanente, posiciones que demandan habilidades críticas con agilidad, competencias digitales para el aprendizaje y aquellos casos donde, si no hay chance de reubicación pese a los esfuerzos de capacitación y recolocación, iniciar procesos de salida respetando los derechos laborales y procedimientos establecidos. Los lineamientos deben ser difundidos y actualizados constantemente tanto como la evolución de la GenAI.
Asimismo, la información debe ser compartida con detalle y lenguaje simple. La existencia de foros de explicación, canales de consultas, marchas blancas, etc. son indispensables, especialmente, para la gestión del cambio. La transparencia en la información genera mayor confianza, compromiso y aceptación de las decisiones que se toman a partir de la GenAI. Esta política debería estar enmarcada en la cultura de la empresa, representando una guía ética de actuación, delimitando los casos donde los trabajadores deben utilizar o reportar el uso de la GenAI, resolver las zonas grises, así como un proceso de solución de conflictos.
Para finalizar, como señalamos, la negociación colectiva cobra un papel relevante en la limitación de la implementación de la IA. Asimismo, se puede buscar la protección como garantías imprescindibles para el ejercicio de los derechos colectivos de los trabajadores. Los sindicatos deben buscar consolidarse como capacitarse mediante foros, alianzas y reuniones para adecuarse a los cambios que implica esta Cuarta Revolución industrial con la aplicación de la IA en procesos laborales. La transparencia en la información sobre la implementación de la IA a los sindicatos es crucial para encontrar un equilibrio adecuado entre el uso de la IA y los derechos fundamentales de los trabajadores.
El diálogo social debe buscar que los sindicatos formen parte del diseño de las políticas de la empresa que buscan regular de manera interna la implementación de la IA. Es decir, los empleadores deben tomar en cuenta la opinión de los trabajadores mediante el diálogo social sobre la aplicación de la IA.
La IA está impactando las relaciones laborales. Reduce puestos, crea posiciones y exige reconversiones laborales. Los conflictos laborales que se generan deben, preferentemente, prevenirse con diálogos y políticas que transparenten el uso y efectos de la IA y, en caso de que deban resolverse, el test de proporcionalidad del TC sería la herramienta que se emplee para encontrar los equilibrios en cada caso.
La IA es una realidad. Lo estamos viviendo. Los avances de la IA no cesarán, generan incertidumbre, pero también generan oportunidades para la transformación de las relaciones laborales. Todos deberíamos tener una participación para que la IA potencie el desarrollo personal y la productividad de los trabajadores y las empresas. Al final, se trata de que la inteligencia humana tenga como copiloto a la IA para un mundo más justo, más correcto, más respetuoso.
Referencias bibliográficas
Abanto, C. & Duffoó. D. (2023). El futuro es hoy: el derecho procesal laboral y la necesaria implementación de la inteligencia artificial. Laborem, 21(28), 81-103. https://doi.org/10.56932/laborem.21.28.3
Aguilar, M. (2020). El uso de la inteligencia artificial en la prevención de riesgos laborales. Revista Internacional y Comparada de Relaciones Laborales y Derecho del Empleo, 8(1), 262-293. https://hdl.handle.net/11441/95665
Arce, E. (2021). Derechos fundamentales en la relación de trabajo: metodología del juicio de ponderación en el derecho laboral. Laborem, 13, 85-102.
Armas, C. (2021). La Inteligencia Artificial en empresas peruanas e impactos laborales en los trabajadores. Iberoamerican Business Journal, 5(1), 83-105. http://dx.doi.org/10.22451/5817.ibj2021.vol5.1.11053
Álvarez, R. (٢٠١٧, ٩ de noviembre). Entre 400 y 800 millones de personas serán desplazadas de sus puestos de trabajo en 2030 debido a la automatización. Xataka. https://www.xataka.com/robotica-e-ia/entre-400-y-800-millones-de-personas-seran-desplazadas-de-sus-puestos-de-trabajo-en-2030-debido-a-la-automatizacion
Anuncio de la Conselleria de Economía Sostenible, Sectores Productivos, Comercio y Trabajo sobre el texto del convenio colectivo de la empresa Air Nostrum Training Operations, SLU, para los años 2023-2025. (17 de abril de 2023). Boletín Oficial de la Provincia de Valencia. https://www.convenioscolectivos.net/air-nostrum-training-operations-slu/
Blanchet, A. (2024, 4 de julio). Estrategias sindicales sobre inteligencia artificial y negociación colectiva de los algoritmos. Equal Times. https://www.equaltimes.org/estrategias-sindicales-sobre?lang=en
Cazzaniga, M. et al. (2024). Gen-AI: Artificial Intelligence and the Future of Work. International Monetary Fund. https://www.imf.org/en/Publications/Staff-Discussion-Notes/Issues/2024/01/14/Gen-AI-Artificial-Intelligence-and-the-Future-of-Work-542379?cid=pr-com-SDNEA2024001
Cerullo, M. (2024, 25 de enero). Tech companies are slashing thousands of jobs as they pivot toward AI. CBS News. https://www.cbsnews.com/news/tech-layoffs-artificial-intelligence-ai-chatgpt/
Convenio Colectivo de la empresa El Norte de Castilla, S.A., 2021-2023 (XXIX). (1 de octubre de 2021). Boletín Oficial de Castilla y León. https://www.convenioscolectivos.net/el-norte-de-castilla-s-a/
Deck, A. (2024, 16 de julio). Mashable, PC Mag, and Lifehacker win unprecedented AI protections in new union contract. Nieman Lab. https://www.niemanlab.org/2024/07/mashable-pc-mag-and-lifehacker-win-unprecedented-ai-protections-in-new-union-contract/
De Vynck, G. (2024, 11 de enero). Duolingo cuts workers as it relies more on AI. The Washington Post. https://www.washingtonpost.com/technology/2024/01/10/duolingo-ai-layoffs/
Directiva (UE) 2024/2831, de 23 de octubre de 2024, relativa a la mejora de las condiciones laborales en el trabajo en plataformas. Diario Oficial de la Unión Europea, L2024/81667, de 23 de octubre de 2024. https://www.boe.es/buscar/doc.php?id=DOUE-L-2024-81667
Farmacosalud (2024, 19 de febrero). Nace una plataforma que aplica Inteligencia Artificial para mejorar la salud mental y emocional de los trabajadores. https://farmacosalud.com/nace-una-plataforma-que-aplica-inteligencia-artificial-para-mejorar-la-salud-mental-y-emocional-de-los-trabajadores/
García, J. (2023). Inteligencia artificial y relaciones laborales: entre la significación creciente de los algoritmos y el desmentido de su neutralidad aparente. Temas laborales: Revista andaluza de trabajo y bienestar social, 167, 75-126. https://hdl.handle.net/20.500.14352/93991
Granados, J. (2022). Análisis de la inteligencia artificial en las relaciones laborales. Revista CES Derecho, 13(1), 111-132. https://doi.org/10.21615/cesder.6395
Grández, P. (2010). El principio de proporcionalidad en la jurisprudencia del TC peruano. M. Carbonell, & P. Gandrez Castro (Eds.), El Principio de Proporcionalidad en el Derecho Contemporaneo, 337-376.
Guaña-Moya, J. & Chipuxi-Fajardo, L. (2023). Impacto de la inteligencia artificial en la ética y la privacidad de los datos. RECIAMUC, 7(1), 923-930. https://www.reciamuc.com/index.php/RECIAMUC/article/view/1135
Heath, A. (2024, 17 de enero). Google CEO tells employees to expect more job cuts this year. The Verge. https://www.theverge.com/2024/1/17/24042417/google-layoffs-2024-internal-employee-memo-sundar-pichai
Irazabal, E. (2023). La inteligencia artificial explicada para abogados. Editorial La Ley.
Korach, N. (2024, 12 de junio). New York Times Union Urges Management to Reconsider 9 Art Department Cuts as Paper Ramps Up AI Tools. The Wrap. https://www.thewrap.com/new-york-times-union-cuts-art-department-ai/
Lara, C. (2020). El Algoritmo como protagonista de la relación laboral. Un análisis desde la perspectiva de la prohibición de discriminación. Temas laborales: Revista andaluza de trabajo y bienestar social, (155), 41-60. https://dialnet.unirioja.es/servlet/articulo?codigo=7801689
López, J. (2023). Las consecuencias del desarrollo de la inteligencia artificial ante las transformaciones del mercado de trabajo y la creación del empleo. Laborem, 21(28), 21-50. https://doi.org/10.56932/laborem.21.28.1
Montes, G. (2024). El impacto de la digitalización y de la inteligencia artificial en la privacidad de los trabajadores: desafíos y soluciones. Revista Internacional y Comparada de Relaciones Laborales y Derecho del Empleo, 12(1), 287- 317. https://hdl.handle.net/10630/28240
Morales, C. (2021). La Inteligencia Artificial en empresas peruanas e impactos laborales en los trabajadores. Iberoamerican Business Journal, 5(1), 83-105. https://doi.org/10.22451/5817.ibj2021.vol5.1.11053
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2021). Recomendación sobre la ética de la Inteligencia Artificial. https://www.unesco.org/es/legal-affairs/recommendation-ethics-artificial-intelligence
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2024). Consultation Paper on AI Regulation. Emerging Approaches Across the World. https://unesdoc.unesco.org/ark:/48223/pf0000390979
Pérez, J. (2023). Inteligencia artificial y contratación laboral. Revista de Estudios Jurídico-Laborales y de Seguridad Social (REJLSS), (7), 186-205. https://doi.org/10.24310/rejlss7202317557
Pequeño, A. (2023, 11 de agosto). Cronología de los 100 días de huelga de los guionistas de Hollywood. Forbes. https://forbes.es/actualidad/324010/cronologia-de-los-100-dias-de-huelga-de-los-guionistas-de-hollywood/
Rázuri, C. (2023). ¿Avanzamos hacia un trabajo decente? La Inteligencia Artificial como herramienta de mejora para el impulso del empleo decente. Laborem, 21(28), 51-78. https://doi.org/10.56932/laborem.21.28.2
Reglamento (UE) 2024/1689, del Parlamento Europeo y del Consejo, 12 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, de 13 de junio de 2024. https://www.boe.es/doue/2024/1689/L00001-00144.pdf
Reyes, V. (2023). Resumen ejecutivo del conversatorio Nuevas tecnologías y derechos humanos: impactos, desafíos y oportunidades en la era de la conectividad digital. https://repositorio.pucp.edu.pe/index/handle/123456789/193095
Reyes, V. et al. (2024). Comentarios generales al Proyecto de Decreto Supremo que aprueba el Reglamento de la Ley No. 31814, Ley que promueve el uso de la Inteligencia Artificial en favor del desarrollo económico y social del país. Instituto de Democracia y Derechos Humanos. https://idehpucp.pucp.edu.pe/publicaciones/comentarios-generales-al-proyecto-de-decreto-supremo-que-aprueba-el-reglamento-de-la-ley-no-31814-ley-que-promueve-el-uso-de-la-inteligencia-artificial-en-favor-del-desarrollo-economico-y-social-del/
Sanguineti, W. (2024). Los dilemas de los derechos colectivos en la era de la inteligencia artificial. Trabajo y derecho: nueva revista de actualidad y relaciones laborales, 115, 1-8. https://wilfredosanguineti.wordpress.com/wp-content/uploads/2024/07/w-sanguineti-los-dilemas-de-los-derechos-colectivos-en-la-era-de-la-inteligencia-artificial-trabajo-y-derecho-2024-numero-115-116.pdf
Sentencia recaída en el Expediente No. 0010-2002-AI/TC (3 de enero de 2003). Tribunal Constitucional. https://www.tc.gob.pe/jurisprudencia/2003/00010-2002-AI.html
Sentencia recaída en el Expediente No. 0045-2004-AI (29 de octubre de 2005). Tribunal Constitucional. https://www.tc.gob.pe/jurisprudencia/2006/00045-2004-AI.pdf
Sentencia recaída en el Expediente No. 21131-2017 (11 de septiembre de 2019). Corte Suprema de Justicia de la República. https://static.legis.pe/wp-content/uploads/2019/10/Cas.-Lab.-21131-2017-Lima-Legis.pe_.pdf
Toyama, J. & Rodríguez, A. (2019). Algoritmos laborales: big data e inteligencia artificial. THEMIS: Revista de Derecho, (75), 255-266. https://doi.org/10.18800/themis.201901.018 
NOTAS
(*) Nota del Equipo Editorial: Este artículo fue recibido el 09 de octubre de 2024 y su publicación fue aprobada el 4 de diciembre de 2024.
(**) El autor agradece a la señorita Lorena Jimenez Barboza por la asistencia en la preparación de este artículo.
(***) Abogado por la Pontificia Universidad Católica del Perú (Lima, Perú). Magíster de Derecho Constitucional por la Pontificia Universidad Católica del Perú. Miembro extraordinario de la Asociación Civil IUS ET VERITAS. Profesor Principal en la Pontificia Universidad Católica del Perú. Profesor en la Universidad de Pacífico y Universidad de Piura. Director de la revista Soluciones Laborales. Ha sido consultor de la OIT, Cepal y el Banco Mundial. Ex vocal del Tribunal del Servicio Civil. ORCID: https://orcid.org/0000-0002-9034-600X. Correo electrónico: jtoyama@vinateatoyama.com.
(1) Estos sistemas fueron implementados en México, Colombia, Argentina y Brasil respectivamente.
(2) La Ley 29733 comprende los derechos de los titulares, los deberes de las empresas, así como principios y las condiciones que se deben implementar en el tratamiento de los datos personales.
(3) La Ley que promueve el uso de la Inteligencia Artificial en favor del desarrollo económico y social del país fue promulgada el 5 de julio del 2023.
(4) El proyecto de Reglamento de la Ley 31814 fue publicado, mediante Resolución Ministerial 132-2024-PCM, el 2 de mayo del 2024.