Reforma laboral e IA: alcances de
la protección a rappitenderos
Uno de los temas a los que más le hicieron bombo los promotores de la nueva reforma laboral es la creación de derechos para los repartidores de plataformas como Rappi. Estos incluyen, entre otros, derechos para proteger a estos empleados de sanciones descontextualizadas a través de mecanismos de inteligencia artificial (IA). ¿Cómo se califica este avance?
Dentro de los muchos problemas que enfrentan los trabajadores de las plataformas de reparto está que muchas veces resultan sometidos a decisiones arbitrarias o inexplicables tomadas por los “algoritmos” de las aplicaciones. Un informe publicado por la Fundación Karisma en 2022 resumió estos problemas: suspensiones o bloqueos que los dejan sin su principal (o único) medio de sustento, o asignaciones de domicilios en distancias abismales. Karisma recoge el testimonio de un repartidor que explica que la mayoría de estas decisiones provienen de esas herramientas automatizadas: “[la empresa] dice que aquí uno no tiene jefes, pero nuestro jefe es el algoritmo”.
Un grupo de académicos de la Universidad de Magdalena señaló en una investigación que el algoritmo de las plataformas asigna pedidos dependiendo de la geolocalización, pondera calificaciones recibidas por el repartidor y establece sanciones. Según la misma investigación, la plataforma se reserva el derecho de tomar decisiones unilaterales sin derecho a la defensa, réplicas o pruebas: “el algoritmo sanciona a su arbitrio después de analizar los datos que recopila.”
Este problema de plataformas como Rappi no es nuevo ni exclusivo de esta industria. Muchos sectores que operan a gran escala recurren a la automatización para poder seguir funcionando. Desde la perspectiva de empresas como Rappi, contar con un equipo humano para asignar pedidos o para gestionar suspensiones o cancelaciones sería costoso y difícil de gestionar, mientras que una herramienta automatizada resulta más rápida, eficiente y económica. Por otro lado, estas tecnologías están lejos de ser perfectas: pueden cometer errores por falta de contexto, por datos mal introducidos, fallas técnicas u otras razones. En la práctica, lo que termina sucediendo en muchos escenarios es que se combinan las bondades de la decisión humana y la decisión automatizada para tener un balance: mientras que la decisión automatizada puede introducir velocidad y apego a los datos, las tendencias, estadísticas, etc., el criterio del humano puede traer contexto, sentido común, u otras consideraciones que puedan verse como más emocionales pero que justifican desviarse de lo que dicen los números.
El hecho de que esta reforma incluya medidas para mitigar el impacto de las decisiones automatizadas en el caso de los domiciliarios puede volverse un precedente para políticas en otros sectores. Entre más se popularice el uso de IA en el marco de decisiones laborales, de crédito, de acceso a servicios, entre otras, más importante será contar con un marco de protecciones frente a las limitaciones de estas tecnologías.
La reforma del gobierno Petro introduce reglas que buscan limitar el poder de los algoritmos en las plataformas de reparto. Esta nueva ley obliga a las empresas a informar de forma clara y accesible a los repartidores sobre los sistemas automatizados que utilizan para supervisar su trabajo o tomar decisiones que afectan sus ingresos, horarios o acceso a pedidos. También restringe el uso de sus datos personales, que solo podrán ser tratados para fines previamente autorizados.
Aunque esto es un avance importante, el detalle en la implementación de esta norma estará en que las autoridades puedan establecer algún control sobre la posición dominante que tienen plataformas como Rappi sobre sus repartidores. En una sentencia de 2023, la Corte Constitucional trató el caso de un repartidor cuya cuenta fue bloqueada de forma permanente e inexplicable y concluyó que estas empresas tienen un “poder normativo” sobre estas personas. La sentencia de la Corte indicó que era fundamental que las plataformas de este tipo garanticen un debido proceso a la hora de establecer sanciones como las que sufrió el rappitendero.
Parte de la garantía del debido proceso en estas situaciones incluye la posibilidad de apelar. La reforma de Petro reconoce el derecho de los trabajadores a solicitar una revisión humana cuando una decisión automatizada los perjudique. Entre los casos cubiertos por esta medida están la suspensión, restricción o cancelación de la cuenta, y la retención de la remuneración, cuando ocurran sin justificación.
No obstante, existe un riesgo de que esta medida se convierta en un saludo a la bandera. Indicar que hay un derecho a la revisión humana, sin indicar cuáles son las calificaciones o criterios que debe tener esa revisión, puede resultar en que el personal encargado de esta tarea sea un mero refrendador de la decisión inicial. Una revisión de este tipo no permite una verdadera protección frente a los posibles errores de la automatización y termina reduciéndose a un trámite más en una lista de chequeo. El resultado es que las problemáticas reales de los domiciliarios permanecen intactas, pero se consideran “validadas” por el simple hecho de haber seguido un proceso previsto en la ley.
La forma en que se garantiza de manera que la supervisión o revisión humana sea efectiva y cumpla un verdadero propósito es una discusión que no ha sido del todo zanjada. En la Unión Europea ha habido desarrollos importantes en este tema. Recientemente, en el marco de la reglamentación de las decisiones de moderación de contenidos en redes sociales (una industria distinta a las plataformas de domicilio, pero con ciertas similitudes), la Unión Europea estableció que todo usuario debe tener derecho a una apelación en la que se garantice que las decisiones “se adopten bajo la supervisión de personal adecuadamente cualificado y no exclusivamente por medios automatizados.” Este aparte, establecido en el Reglamento de Servicios Digitales, está insertado en una serie de normas que establecen que las decisiones de las plataformas deben tener criterios de diligencia, objetividad, no discriminación, aplicación de tiempos razonables, no arbitrariedad y proporcionalidad. Este tipo de criterios terminan reforzando la implementación de equipos humanos de revisión para que haya una evaluación sistemática sobre la forma en que se distribuyen los recursos de cara a una mejor garantía de los derechos de las personas que puedan verse afectadas, distinto a meros refrendadores. Por su parte, el Reglamento de Inteligencia Artificial de la Unión Europea, establece que cualquier entidad (no solo plataformas de redes sociales) que usen herramientas de IA, debe garantizar que su personal tenga un nivel suficiente de alfabetización sobre estas herramientas, “así como el contexto previsto de uso de los sistemas de IA y las personas o los colectivos de personas en que se van a utilizar dichos sistemas.”
La forma de evitar que la refrendación humana termine siendo un saludo a la bandera puede estar parcialmente atajada en una parte de esta reforma que indica que las plataformas estarán obligadas a revisar periódicamente el impacto de sus algoritmos en las condiciones laborales de los repartidores y a establecer políticas claras de no discriminación. No obstante, será importante que el Ministerio del Trabajo cree unas reglas más específicas y unos criterios dirigidos a evaluar si los mecanismos de revisión que se crean dentro de las plataformas sí cumplen la finalidad de proteger los derechos de los rappitenderos.
Los textos que aquí se publican son de exclusiva responsabilidad de sus autores y no expresan necesariamente el pensamiento ni la posición de la Linterna Verde.
No hay comentarios:
Publicar un comentario