Problemas derivados de la supervisión y vigilancia ejercida por el empleador mediante la inteligencia artificial.

 

Dirección algorítmica y gestión del empleo: El mito de la neutralidad de la Inteligencia Artificial

Algorithmic management and employment management: The myth of the neutrality of Artificial Intelligence

José Guillermo Jonathan Guzmán López*

Universidad Católica de Santa Maria

Contacto: jguzmanl2497@gmail.com

https://orcid.org/0009-0001-3042-3229

“You see, Earth is a third-world cesspool. That’s why we’re here. Things are better up here –
John Carlyle, Elysium-¹”

RESUMEN: La inteligencia artificial y los algoritmos han redefinido la gestión del empleo al permitir la automatización de procesos clave como la selección de personal, la asignación de tareas y la evaluación del desempeño. Aunque la promesa algorítmica de eficiencia y reducción de costos supone indudables ventajas en el campo de las relaciones laborales, también genera riesgos significativos, como la opacidad en la toma de decisiones y la posibilidad de discriminación algorítmica. En el presente artículo describiremos la dirección algorítmica y sus implicancias en las relaciones laborales, analizando cómo la falta de transparencia y la recopilación masiva de datos pueden afectar los derechos de los trabajadores. Además, revisaremos las perspectivas regulatorias ante la creciente automatización.

Palabra clave: Inteligencia Artificial, Algoritmos, Dirección Algorítmica, Sesgos Algorítmicos, Discriminación Algorítmica, Gestión del Empleo, Regulación de la IA.

ABSTRACT: Artificial intelligence and algorithms have redefined employment management by enabling the automation of key processes such as staff selection, task assignment, and performance evaluation. While the algorithmic promise of efficiency and cost reduction offers undoubted advantages in the field of labor relations, it also creates significant risks, such as opacity in decision-making and the possibility of algorithmic discrimination. In this article, we will describe algorithmic steering and its implications for labor relations, analyzing how lack of transparency and massive data collection can affect workers’ rights. In addition, regulatory perspectives in the face of increasing automation are reviewed.

Keyword: Artificial Intelligence, Algorithms, Algorithmic Steering, Algorithmic Biases, Algorithmic Discrimination, Employment Management, AI Regulation.

Recibido: 23/02/2025        Aceptado: 25/03/2025        Publicado en línea: 31/03/2025

Sumario: I. Introducción. II. Inteligencia artificial y algoritmos en el derecho del trabajo. 1. La promesa algorítmica de eficiencia y automatización. 2. Funcionamiento de los algoritmos: De datos a decisiones. III. Dirección algorítmica: Oportunidades y riesgos. 1. Dirección Algorítmica ¿neutralidad o sesgos de discriminación? 2. La Inteligencia Artificial en la gestión del empleo. A) La IA en el acceso al empleo. B) La IA en la ejecución y extinción del vínculo laboral. IV. Regulación y responsabilidad del empresario. V. Conclusiones. Referencias.

 

I.        INTRODUCCIÓN

La naturaleza disruptiva² de la inteligencia artificial (en adelante, IA) y los algoritmos ha transformado de manera significativa la gestión y la organización del empleo. Y es que, la automatización de procesos mediante algoritmos informáticos permite optimizar tareas, reducir costos y mejorar la eficiencia en la toma de decisiones. Sin embargo, este avance tecnológico también plantea desafíos importantes en el campo de las relaciones laborales, especialmente en lo que respecta a la transparencia de las decisiones algorítmicas y los riesgos de discriminación en el trabajo.

En el presente artículo, analizaremos el impacto de la denominada “dirección algorítmica” en el marco de las relaciones de trabajo, sus ventajas en la selección de personal, la evaluación del desempeño y la supervisión del trabajo, pero también, abordaremos riesgos asociados, cómo la amplificación de sesgos y afectación de derechos fundamentales.

En ese marco práctico y conceptual, nos planteamos si son necesarias nuevas perspectivas regulatorias en materia laboral, o si las clasicas instituciones son suficientes para poner limites y controles al uso generalizado de algoritmos.

II.        INTELIGENCIA ARTIFICIAL Y ALGORITMOS EN EL DERECHO DEL TRABAJO

En los últimos años hemos asistido a una inexorable aplicación de avances tecnológicos y de la inteligencia artificial en la gestión de empleo y en los procesos productivos, que sin duda, presentan importantes retos para el derecho del trabajo. Tan evidentes son los cambios que venimos afrontando, en lo que se ha denominado la “cuarta revolución industrial”³, que han impulsado numerosos estudios de investigación sobre el futuro del empleo y sus implicancias en las relaciones laborales. Abordar todos ellos excedería nuestro propósito inicial, por lo que, resulta necesario delimitar nuestro trabajo a los impactos y riesgos de la denominada “dirección algorítmica” en la gestión del empleo y la organización del trabajo.

1.        La promesa algorítmica de eficiencia y automatización

El uso de algoritmos y de la inteligencia artifical se ha convertido en uno de los pilares de la revolución tecnológica. Sin embargo, aunque solemos relacionar el concepto de algoritmo con programas informáticos o chatbots, lo cierto es que, un algoritmo no es más que un conjunto de pasos ordenados para resolver un problema, que no requiere necesariamente el uso de un programa o aplicación informática, aunque suele recurrirse a ellos para hacer más rápida y sencilla su ejecución. (Todolí Signes, 2023).

A decir verdad, el uso de algoritmos en la toma de decisiones de la organización del trabajo no es una herramienta tan reciente en nuestro país, veamos por ejemplo, el caso de las evaluaciones de desempeño docente en el marco de la Ley de Reforma Magisterial⁴, en la que, a través de la recolección de datos -más o menos automatizados- se toman decisiones en el ámbito de la organización del trabajo, como ascensos, incentivos, entre otros, siendo el elemento de predictibilidad una herramienta de apoyo en la toma de decisiones del empleador.

Ahora bien, cuando hablamos de algoritmos informáticos y de la aplicación de inteligencia artificial, si bien el objetivo sigue siendo el mismo, la diferencia radica en que estos operan mediante sistemas más complejos y procesan una mayor cantidad de datos. De hecho, Murillo (2023), citado por Blancas Bustamante (2024), afirma que este fenómeno, conocido como big data, representa una forma de “extractivismo de datos”, en tanto que el funcionamiento de estos algoritmos informáticos viene marcado con la recolección masiva de datos, seguida de su almacenamiento y sistematización.

En ese marco, se ha descrito a los algoritmos informáticos como aquellas fórmulas que analizan experiencias pasadas de las que sabemos su resultado, empleando para ello gran cantidad de datos. De esta manera, con ayuda de lenguaje matemático y ciertos indicadores, nos permiten extraer predicciones, correlaciones o aproximaciones a partir de las cuales podemos identificar las respuestas que han dado mejores resultados para, en base a ellos, tomar decisiones automáticas o humanas (Mercader Uguina, 2022). Sin embargo, la realidad nos ha demostrado que no podemos hablar únicamente de lenguaje matemático e indicadores, pues hoy en día tenemos acceso, incluso gratuito, a programas de IA y chatbots que emplean algoritmos para resolver gran variedad de problemas mediante indicaciones o descripciones generales, lo que se conoce también como “promts”⁵, de tal manera que existe un uso cada vez más generalizado de estas tecnologías, transformando la manera en que interactuamos con la información y tomamos decisiones.

La clave en este contexto, es la reducción de costos de transacción y la eficiencia del uso extendido de modelos de IA que incorporan algoritmos. Así, la optimización en la búsqueda de resultados, que permite integrar una mayor cantidad de datos para en análisis (incluyendo más variables) y, al mismo tiempo, la reducción de costos múltiples (automatización de tareas, toma de decisiones más rápidas con análisis de grandes cantidades de datos, reucción de costos de supervisión, etc.), constituyen la promesa algoritmica de resultados previsibles y económicos en comparación a la toma de decisiones humanas.

 

2.        Funcionamiento de los algoritmos: De datos a decisiones

En el contexto de la IA, la construcción de los algoritmos inicia con la recopilación de datos, continúa con su sistematización y culmina con la creación del modelo que permite automatizar decisiones. Y aunque en apariencia podemos hablar de un proceso estructurado, el funcionamiento y uso de los modelos de IA abarca distintos niveles de complejidad debido a la cantidad de variables y factores involucrados en el big data.

Algunas teorías que apuntan a describir y clasificar los distintos modelos de IA hayan su fundamento en la dicotomía del razonamiento humano. Esto es, el proceso cognitivo que involucra el pensamiento rápido, instintivo y emocional, que se origina en reconocimiento de patrones y por otro lado, el proceso cognitivo deliberativo y más lógico, que permite aprender de manera conceptual, debatir y argumentar. (Martínez, 2024). A partir, de ello, se distinguen los modelos de IA basados en datos y los que basan su funcionamiento en conocimiento. Sin perjuicio de ello, el avance tecnológico hace que, con más frecuencia, estas tecnologías se usen acumulativamente y no por separado. Con lo cual en este trabajo cuando se haga referencia a la inteligencia artificial que incorpora algortimos se recoge ambos enfoques.

Ahora bien, en el contexto de las relaciones laborales, debemos precisar que la primera fase de la construcción de algortimos es la recolección de datos. No cabe duda que los datos son el principal insumo para la construcción de algoritmos, lo cual ha llevado incluso a considerarla como una nueva “fuente de monetización”, y es que, la mayor y mejor capacidad de procesamiento de estos datos mediante la IA revalorizan las distintas formas de captación de información, como las que se dan a través de cámaras de vigilancia, GPS, registros de la computadora del trabajador, entre otros. Estos mecanismos permiten conocer, por ejemplo, el tiempo que tarda un trabajador en ir de un lugar a otro, el tiempo requerido para empaquetar un producto o el tiempo que toma a un abogado redactar un artículo o proyectar una resolución, es decir, obtener información del desempeño laboral. Ello plantea de inicio, una serie de retos y cuestionamientos. El profesor Rodirguez-Piñero señala como algunos ejemplos ilustrativos “la posiblidad de un control total por las empresas; la intrusión en sus espacios de privacidad; la disolución de fronteras entre lo laboral y lo personal; la posibilidad de construir perfiles con los datos obtenidos; el acceso a la información personal sensible, directa o indirectamente; la perdida del anonimato” (Rodriguez-Piñero Royo, 2020). Y, si bien algunos los problemas relacionados con la protección de datos encuentran una pronta respuesta en la Ley N.º 29733, Ley de Protección de Datos Personales, aún persisten cuestionamientos respecto a otros derechos laborales, como la seguridad y salud en el trabajo, el principio de igualdad, el derecho de no discriminación, entre otros.

Una segunda etapa en la construcción de algoritmos es la selección del modelo. Así, el profesor Todolí señala que el llamado “machine learning” permite encontrar correlaciones en las bases de datos, y luego usarla para descubrir patrones y predicciones, y así, aprender y mejorar constantemente a través del uso de redes neuronales imitando el cerebro humano (Todolí Signes, 2023). Por su parte, el “Knowledge-Based”, usa reglas y conocimientos explícitos de expertos en el dominio (tiene reglas y conocimiento predefinidos en lugar de aprender datos), el jurista Quiñones citando a Martínez (2024) refiere que este modelo parte de conceptos y reglas que usan los seres humanos para resolver problemas de un dominio de experticia y luego operacionaliza ello basado en estrategias de razonamiento, procesamiento de lenguaje y aprendizaje de intuición.(Quiñones Infante, 2024). Con lo cual, si bien este segundo modelo es menos flexible, puede diseñarse reglas que eviten determinados sesgos, a diferencia del primero que refleja aquellos sesgos que pueda encontrar en los datos. Y es que, cuando se trata de “machine learning”, existen una serie de técnicas que aumentan la eficiencia de las decisiones y de las predicciones, que también es conocido como “deep learning” o aprendizaje profundo, que permite al algoritmo tener determinada libertad para descubrir patrones de forma autónoma, lo cual aumenta la dificultad de explicar los motivos por los cuales un algoritmo llegó a determinada conclusión.

Esta opacidad – o como ha sido denominado en la doctrina estadounidense, “black box” - hace que algunos modelos de inteligencia artificial que emplean algoritmos tomen decisiones sin que los humanos puedan explicar fácilmente cómo llegaron a ellas. La opacidad que rodea el funcionamiento y uso de algortimos debería ser uno de los focos de preocupación de su aplicación en el ámbito de las relaciones laborales. Pensemos pues en la imposibilidad del trabajador de impugnar o cuestionar determinada decisión por el desconocimiento o la dificultad de entender el razonamiento que siguió la IA para llegar a ello, más aún, existe el riesgo de que se incorporen determinados sesgos (ya sea en el diseño o en los datos utilizados) que den lugar a toma de decisiones discriminatorias o a la construcción de determinados perfiles que dejen fuera del mercado laboral a alguna minoría poblacional, pues no debemos olvidarnos que a fin de cuentas, estos modelos trabajan sobre la base de estadíticas y probabilidades.

III.        DIRECCIÓN ALGORÍTMICA: OPORTUNIDADES Y RIESGOS

Pese a la creencia generalizada de que los algoritmos y la IA son neutrales debido a su objetividad, estamos -por decirlo menos- ante una espinosa cuestión, pues como hemos visto a lo largo del presente artículo, estos modelos son diseñados y entrenados por seres humanos, por lo que no solo procesan grandes cantidades de datos -no necesariamente laborales-, sino que también pueden reflejar o incluso, amplificar sesgos preexistentes.

1.        Dirección Algorítmica ¿neutralidad o sesgos de discriminación?

Para responder una de las principales interrogantes que nos planteamos al inicio de este trabajo, debemos delimitar a que nos referimos cuando hablamos de “direccción algoritmica”. El profesor Sanguineti señala que: “la denominada dirección laboral algorítmica, es entendida como el conjunto de procesos por medio de los cuales el empleo de algoritmos está en condiciones de cubrir todos los espacios de ejercicio de los poderes asociados a la condición de empleador. Desde la selección del personal, pasando por la dirección y el control, hasta llegar a la imposición de sanciones e incluso el despido” (Sanguineti, 2024), pero lo cierto es que, la realidad nos ha demostrado que el poder de dirección del empleador (dirigir, fiscalizar y sancionar) puede ser trasladado y asumido no solo por algoritmos, sino también por distintos sistemas de IA. Por ello, en un sentido más amplio, podemos entender a la dirección algoritmica como “un conjunto diverso de herramientas tecnológicas y técnicas que permiten estructurar las condiciones de trabajo y manejar la fuerza de trabajo” (Todolí, 2023). Así, la dirección algorítmica permite analizar grandes cantidades de datos para identificar correlaciones entre determinadas caracteristicas o conductas y los objetivos buscados por la empresa, y con ello, tomar decisiones semiautomáticas o directamente, automáticas.

Pensemos por ejemplo, en la posibilidad de seleccionar o filtrar candidatos en un proceso de reclutamiento y de esta forma reducir el trabajo del área encargada de tomar la decisión de contratar o no a un trabajador, o en la posibilidad de establecer del número óptimo de trabajadores requeridos según la demanda en determinados días o turnos según la concurrencia de público, o estimar la media de ventas que debería realizar un trabajador en cada momento del día y generar un ranking comparativo con sus compañeros de trabajo e incluso automatizar sanciones disciplinarias, como advertencias o despidos, en función de métricas de desempeño. Por mencionar algunos ejemplos ampliamente conocidos, podemos señalar el de plataformas digitales como Uber o Glovo, donde la dirección algorítmica se utiliza para evaluar la “reputación digital” a partir de los propios usarios, lo que, en buena cuenta, se traduce en incentivos o penalizaciones, o el caso de la empresa Amazon, en la que, mediante pulseras inteligentes y chips en los calzados de trabajo se recopilaban datos para evaluar la productividad y adoptar medidas disciplinarias en función a ello con ayuda de algoritmos.

De este modo, al contar con la posibilidad de analizar un mayor número de variables para la toma de decisiones empresariales, cabe preguntarnos si los algoritmos informáticos y la IA pueden considerarse realmente neutros. Consideramos que no, por dos razones principales. En primer lugar, debido a que los algoritmos procesan grandes cantidades de datos e identifican patrones asociados a determinadas características personales, con lo cual, es posible que incluyan variables no relacionadas directamente con el desempeño laboral o, peor aún, factores discriminatorios sin que ello sea evidente. En segundo lugar, porque los algoritmos están inevitablemente influenciados por las decisiones humanas en su diseño, entrenamiento y aplicación, lo que introduce sesgos y limitaciones propios del contexto y las perspectivas de quienes los desarrollan.

Y aunque, estos sesgos discriminatorios podrían haber estado presentes en la gestión del empleo y la organización del trabajo incluso sin el uso de algoritmos informáticos, el verdadero peligro radica en que dichos sesgos se apliquen sistemáticamente, excluyendo, por ejemplo, a ciertos trabajadores del mercado laboral o discriminando a determinados trabjadores por condiciones como su ideología, procedencia, entre otros. O’Neil (2016), citada por ((Todolí Signes 2023), señala que, con el uso generalizado de algortimos es probable que los sesgos se estandaricen y se multipliquen, de tal manera que aunque se utilicen algoritmos diferentes, en la realidad, con los datos disponibles, pueden llegar a similares conclusiones sobre la baja cualificación de un trabajador.

2.        La Inteligencia Artificial en la gestión del empleo

Desde la selección de personal, pasando por la evaluación del desempeño y la toma de decisiones sobre la continuidad laboral de un trabajador, el uso de la IA y los algoritmos se ha extendido holísticamente en distintas fases de la gestión del empleo, ello debido a que la capacidad para procesar ingentes cantidades de datos y generar predicciones aunado al “abaratamiento de costos”, supone indudables ventajas en términos de rapidez, eficiencia y aparente imparcialidad.

A.        La IA en el acceso al empleo

La búsqueda de ofertas de empleo se ha visto simplificada con el uso de portales de empleo por internet y redes sociales que se han convertido en una importante herramienta, tanto para las áreas de recursos humanos de las empresas que buscan reclutar los mejores perfiles, como para los trabajadadores que pueden aplicar a una oferta de empleo de manera rápida y sencilla.

Cuando hablamos de medianas y grandes empresas, estas solicitudes pueden ser numerosas para unos pocos puestos de trabajo. Si bien contar con un mayor número de posibilidades de encontrar al mejor candidato es, en principio una ventaja, la evaluación de una mayor cantidad de currículos se traduce en mayor tiempo y dinero para las áreas de recursos humanos de las empresas. Por lo que, es cuestión de tiempo para que se generalice el uso de algoritmos en la selección de personal, ya que, en términos de eficiencia, resulta “menos costoso”.

El profesor Cavalié señala que la IA hace más eficiente el análisis de currículos, pues permite conocer la experiencia de los candidatos y mediante un análisis de predicción seleccionar al candidato tomando en cuenta también potenciales capacidades de innovación y aprendizaje. (Cavalié Cabrera, 2024), a lo cual podríamos adicionar que incluso la IA puede interactuar con los solicitantes mediante chatbots, haciendo cuestionarios o requiriendo información que será necesaria para recomendar o descartar un candidato.

Si vamos un poco más allá, un algoritmo podría incluso buscar información o datos de acceso público en internet en redes sociales como Linkedin, Facebook, Instagram, X, u otros del que pueden extraerse datos, como por ejemplo, si el candidato tiene hábitos o ideologías “compatibles” con los objetivos de la empresa o que el algoritmo considera beneficioso para la empresa. Incluso no tener una red social podría ser la base para descartar un perfil por no tener suficiente información para realizar un perfil del candidato. (Todolí Signes, 2023).

El canal de Youtube de Radio Televisión Española hizo un reportaje en el año 2022 en el que abordaron como es que algunas empresas de Recursos Humanos ofrecen un servicio de selección de candidatos analizando la manera de movernos, mirar, resolver un test, o jugar un videojuego (Canal de Youtube RTVE, 2022), y lo que podría sonar a un escenario distópico, está al acceso de culquier empresa que quiera o pueda hacer uso de estas tecnologías. Por ejemplo, la compañía estadounidense Hirevue ofrece un servicio de reclutamiento por el cual, a través de reconocimiento facial permitiría saber si los candidatos cuentan con determinadas habilidades para el puesto de trabajo.

En buena cuenta, las posibilidades de analisis de datos que emplea un algoritmo son infinitas y el razonamiento detrás de ello, en muchos casos no es transparente, pues trabajan a partir de múltiples correlaciones e inferencias. En palabras sencillas, la lógica que siguen es: “si un candidato es así, es probable que este otro candidato sea equiparable”.

Estas características o inferencias pueden a su vez pueden resultar sesgadas. Pensemos por ejemplo en que el algoritmo relaciona leer determinados posts o compartir publicaciones con la probabilidad de ser militante sindical, y que ello sea motivo de descartar al candidato, o en la inferencia de que tener un proceso judicial en trámite esté relacionado a conflictividad o irresponsabilidad, sin tener en cuenta si el candidato es en verdad responsable o no. Así, pueden ponerse muchos supuestos relacionados a datos como por ejemplo, los antecedentes laborales, el lugar de residencia, entre otros.

B.        La IA en la ejecución y extinción del vínculo laboral

Que duda cabe que el uso de la IA en la gestión del empleo ha intensificado el poder de dirección del empresario. Si hablamos de tecnología productiva o generadora de valor, el objetivo es simplificar el trabajo requiriendo menos tiempo para ejecutarlo, en suma, reducir costes aumentando la eficiencia de los procesos productivos.

En el ámbito de la gestión del empleo los algoritmos permiten optimizar la distribución del personal y tareas, por ejemplo, pensemos en una tienda de alimentos o ropa en el que un algoritmo puede anticipar la cantidad de trabajadores necesarios en distintos momentos del día en función a variables como las condiciones climáticas, la realización de eventos cercanos, los patrones de consumo y los requerimientos específicos del personal en cada establecimiento. Estos sistemas incorporan continuamente mejoras tecnológicas, reduciendo sus costos e impulsando su uso por por parte de las empresas. (Todolí Signes, 2023). De hecho, actualmente algunos modelos de funcionamiento no requieren de una supervisión humana en la toma de decisiones -prescindiendo así de los mandos intermedios-, permitiendo que el algoritmo determine directamente las asignaciones laborales en la organización, bastanto comunicar dicha decisión al trabajador a través de un correo o sistema de mensajería, sin intervención de un superior.

En el ámbito del control y la vigilancia laboral, se ha escrito ampliamente sobre la constante y omnipresente supervisión en la ejecución del contrato de trabajo. No obstante, como adelantamos al inicio de este capítulo, pese a la relevancia del tema, no profundizaremos en el análisis de las tecnologías extractivas de valor, ni en los riesgos asociados a la intimidad y la protección de datos, pues excedería el marco de esta investigación.

Dicho esto, es importante centrarnos en los mecanismos que permiten a los empleadores obtener información sobre sus trabajadores, tales como los sensores, cámaras de videovigilancia y dispositivos inteligentes tales como botas y relojes inteligentes. Estos dispositivos recopilan grandes cantidades de datos, que luego son procesados mediante algoritmos para generar conclusiones, recomendaciones o decisiones que son utilizadas por los empresarios para optimizar distintas fases del proceso productivo. Y ello, puede aplicarse a distintos sectores, tales como call center, enseñanza, informática, asesoría legal, entre otros, en los que se busque calcular ritmos de trabajo óptimos, contabilizando el tiempo requerido para realizar determinadas tareas y alertar al trabajador en caso de retraso, o incluso amonestarlo o notificarlo directamente con el incumplimiento a través de un correo electrónico o sistema de mensajería.

Como se ha dejado entrever, en ambos casos (gestión del empleo y vigilancia laboral) es posible emplear sistemas automáticos de toma de decisiones, en el que el procesamiento, análisis y generación de resultados se lleven a cabo sin intervención humana directa. Y, pese a que podríamos pensar que contar con intervención humana reduciría posibles sesgos discriminatorios, lo cierto es que incluso cuando una persona tome la “decisión final”, ello no garantiza que el proceso previo haya estado completamente automatizado ni exento de segos. Por lo tanto, cuando la intervención humana en las fases neurálgicas del proceso es mínima o meramente formal, seguiremos hablando de un sitema automatizado de decisiones.

IV.        REGULACIÓN Y RESPONSABILIDAD DEL EMPRESARIO

Con ese panorama, los próximos años asistiremos a la expansión generalizada del uso de algoritmos informáticos en las relaciones laborales, que contrasta con las perspectivas regulatorias en materia laboral.

En el ámbito normativo occidental, la Unión Europea ha adoptado el Reglamento (UE) 2024/1689⁶, o también denominada “Ley Europea de la Inteligencia Artificial”, que establece un marco normativo sobre los riesgos de la aplicación de la IA y determina obligaciones para proveedores y usuarios en función del nivel de riesgo. En América Latina y Norteamérica, el panorama es distinto, mientras algunos países han comenzado a explorar regulaciones, en otros no existe marcos normativos al respecto⁷.

En nuestro país podemos mencionar la Ley Nº 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país publicada en el Diario oficial El Peruano el 5 de julio de 2023, así como la Resolución Ministerial Nº 132-2024-PC, mediante la cual se publicó el Proyecto del Reglamento de la Ley en mención, para que en el plazo de 30 días calendario se pueda recabar opiniones en los distintos actores civiles. Sin embargo, estas normas no abordan de manera suficiente el impacto del uso de estas tecnologías en derechos fundamentales como el principio de igualdad, el derecho a la salud y la protección de las condiciones laborales.

La falta de certeza de los empleadores y trabajadores en relación con el uso de algoritmos aumenta el costo de su empleabilidad, por lo que, en términos económicos, justificaría una intervención correctiva del Estado que busque equilibrar la protección de los trabajadores con los incentivos económicos del empresario. Para ello, consideramos fundamental tener presente lo señalado por la OIT en relación al uso de algoritmos en la gestión del empleo, cuando refiere que: “Nos adherimos a un enfoque de la interligencia artificial “bajo control humano” que garantice que todas las decisiones finales que afectan el trabajo sean tomadas por seres humanos y no por algoritmos” (Organización Internacional del Trabajo, 2019), lo cual podría materializarse mediante controles previos que permitan a los trabajadores afectados (positiva o negativamente) por la decisión de un algoritmo, conocer el proceso lógico que se siguió para llegar a determinado resultado, así como mediante controles posteriores que supervisen el correcto funcionamiento de estas tecnologías.

La falta de regulación adecuada puede generar riesgos de discriminación algorítmica o la precarización del empleo, lo que, a largo plazo podría traducirse no solo en la pérdida del incentivo para los empresarios en desarrollar y aplicar medios tecnológicos que generen valor y reduzcan sesgos discriminatorios, sino que también puede amplificar estos sesgos generando que parte de la población sea excluida del mercado laboral. En este sentido, es clave analizar si un modelo de co-regulación, basado en la colaboración entre el sector público y privado, resulta más eficiente que una regulación producto de la autonomía de las partes (empleador y trabajador) que permita hacer énfasis en las necesidades específicas de la organización.

V.        CONCLUSIONES

-        El uso de la IA y los algoritmos en las relaciones laborales representa tanto un desafío como una oportunidad. Si bien estas tecnologías han optimizado la gestión del empleo al mejorar la eficiencia en la toma de decisiones, reducir costos y permitir una mayor personalización en los procesos de selección y asignación de tareas, ello también plantea riesgos significativos, como la falta de transparencia en las decisiones automatizadas y la posibilidad de discriminación algorítmica.

-        Aunque los algoritmos suelen percibirse como herramientas neutrales debido a su aparente objetividad, en realidad reflejan y pueden amplificar los sesgos preexistentes en los datos con los que fueron entrenados, además de estar condicionados por las decisiones y perspectivas de sus desarrolladores. Asimismo, la opacidad en el procesamiento de grandes cantidades de datos y en la identificación de patrones puede dar lugar a la inclusión de variables discriminatorias, sin que ello sea evidente. Como resultado, estos factores pueden generar exclusión del mercado laboral de ciertos grupos y decisiones discriminatorias basadas en origen, género o afiliación sindical, perpetuando desigualdades en el mercado de trabajo.

-        Nos planteamos la necesidad de perspectivas regulatorias del uso de la IA y de los algoritmos en las relaciones laborales, a fin equilibrar la protección de los derechos de los trabajadores con los incentivos económicos de las empresas. Este no es un problema individual ni una cuestión que pueda resolverse únicamente a través de la normativa de protección de datos personales, sino un desafío colectivo que requiere una respuesta integral. En este sentido, un modelo de regulación que combine supervisión estatal y responsabilidad empresarial, podría ser una solución eficiente para proteger los derechos laborales sin frenar la innovación tecnológica.

-        Para minimizar los riesgos de sesgos y discriminación, podrían implementarse controles previos, como auditorías de impacto del algoritmo y la transparencia en el proceso lógico de fases neurálgicas de la toma de decisiones, así como controles posteriores que incluyan mecanismos de supervisión. La dirección algorítmica es una manifestación de la naturaleza evolutiva del derecho del trabajo, pero no debemos perder de vista su esencia tuitiva: La protección de la dignidad humana.

REFERENCIAS

Blancas Bustamante, C. (2024). El impacto de la revolución tecnológica en el derecho del trabajo. Estudios de Homenaje al Profesor Alfredo Villavicencio Ríos, II, 17–37.

Blomkamp, N. (2013). Elysium [Video recording]. Alphacore Media Rights Capital QED International.

Canal de Youtube RTVE. (2022). ALGORITMIA: ¿El fin del trabajo como lo conocemos? Https://www.youtube.Com/Watch?V=DnN30vIjK6A&t=851s.

Cavalié Cabrera, P. (2024). Inteligencia artificial y su aplicación en las relaciones laborales. Suplemento de Análisis Legal de El Peruano.

Martínez, M. V. (2024). De lo que hablamos cuando hablamos de inteligencia artificial. Organización de Las Naciones Unidas Para La Educación, La Ciencia y La Cultura - UNESCO.

Mercader Uguina, J. R. (2022). Algoritmos e inteligencia artificial en el derecho digital del trabajo (1°). Editorial Tirant lo Blanch.

Murillo, D., & Ginès i Fabrellas, A. (Eds.) (2023). Algoritmos, decisiones automatizadas y desafíos éticos: Un análisis sociológico. Algoritmos, inteligencia artificial y relación laboral. Editorial Aranzadi.

O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Penguin Random House.

Organización Internacional del Trabajo. (2019). Trabajar para un futuro más prometedor. Comisión Mundial sobre el Futuro del Trabajo. https://www.ilo.org/sites/default/files/wcmsp5/groups/public/%40dgreports/%40cabinet/documents/publication/wcms_662410.pdf

Quiñones Infante, S. (2024). Retos y posibilidades de la inteligencia artificial para el mundo del trabajo. Soluciones Laborales Nro. 203 – Gaceta jurídica, 39-53.

Rodriguez-Piñero Royo, M., & Todolí Signes, A. (Eds.) (2020). Registro de jornada mediante controles biométricos un caso de incoherencia en el Derecho del Trabajo Digital, en Vigilancia y control en el Derecho del Trabajo Digital. Thomson Reuters Editorial Aranzadi.

Sanguineti Raymond, W. (2024). Los dilemas de los derechos colectivos en la era de la inteligencia artificial. Nueva Revista de Actualidad y Relaciones Laborales - Universidad de Salamanca, 115–116.

Todolí Signes, A. (2023). Algoritmos productivos y extractivos. Cómo regular la digitalización para mejorar el empleo e incentivar la innovación. Editorial Aranzadi. https://adriantodoli.com/2024/10/17/libro-en-abierto-para-descargar-algoritmos-productivos-y-extractivos-como-regular-la-digitalizacion-para-mejorar-el-empleo-e-incentivar-la-innovacion/