Jesús Mercader: “Los algoritmos son neutros, no tienen imaginación”

La Fundación Ramón Areces organiza el debate ‘La regulación de los algoritmos’, donde se ha puesto de manifiesto los sesgos de estas operaciones
algoritmos
De izq. a dcha.: Alejandro Huergo, catedrático de Derecho Administrativo en la Universidad de Oviedo; Jesús Mercader, catedrático de Derecho del Trabajo y de la Seguridad Social en la Universidad Carlos III, y María Emilia Casas, miembro del Consejo de Ciencias Sociales de la Fundación Ramón Areces y presentadora del evento. (Imagen: Fundación Ramón Areces)
Share on facebook
Share on twitter
Share on linkedin
Share on whatsapp
Share on email

Los algoritmos forman una parte esencial de nuestra sociedad. De hecho, ya hay grandes empresas mundiales que funcionan puramente con ellos. La automatización de todos los procesos en la transformación digital en la que vive inmerso el mundo ha hecho que plantearse su papel sea esencial. 

Por ello, la Fundación Ramón Areces, en otra de sus conversaciones online, ha reunido a Jesús Mercader, catedrático de Derecho del Trabajo y de la Seguridad Social en la Universidad Carlos III; a Alejandro Huergo, catedrático de Derecho Administrativo en la Universidad de Oviedo, y a María Emilia Casas, miembro del Consejo de Ciencias Sociales de la Fundación y presentadora del evento, para arrojar un poco de luz sobre este tema.

“Hay distintas realidades que tenemos que explicar porque, cuando queramos ver qué garantías jurídicas se necesitan o qué regulación, tenemos que tener en cuenta esas diferencias”, ha declarado Huergo. Por ejemplo, en los últimos años se ha avanzado mucho en la administración electrónica, entendida fundamentalmente como una forma de comunicarse la administración y los ciudadanos, “algo que hemos vivido mucho en esta situación de pandemia”, ha subrayado. “El hecho de que los ciudadanos y las empresas se pongan en contacto electrónicamente con la administración y que la administración les notifique sus decisiones electrónicamente es un claro ejemplo”. 

“La automatización facilita a las empresas la reducción de costes”

Otra cosa distinta, es la automatización de los procesos administrativos. Que algunos procesos sencillos, algunas decisiones de reconocimiento de derechos como el Ingreso Mínimo Vital, que dependen de unos requisitos fácilmente controlables, se hagan automáticamente. Y otra fase posterior es ya la inteligencia artificial en sentido estricto, la sustitución de los humanos en tareas que considerábamos esenciales para un operador físico, como puede ser el reconocimiento facial, la interpretación de análisis clínicos o la propia conducción. 

En cuanto a las empresas, más que de futuro, Huergo ha hablado de presente. “Algunas de las empresas más valiosas en Bolsa en este momento son precisamente las empresas que se basan de una manera masiva en el análisis de datos y en la inteligencia artificial. Me estoy refiriendo, por ejemplo, a empresas como Facebook, Amazon, Netflix o Google”. 

Y es que la automatización facilita a las empresas la reducción de costes, que se pudiera sustituir a un conductor por un coche automático… Pero, por otra parte, la inteligencia artificial, el análisis matemático de gran cantidad de datos que ahora tenemos y que antes no teníamos –como de la conducta de usuarios en Internet, las compras previas– sirven para que las empresas sean mucho más eficientes en varios sentidos.

El papel de la publicidad

“Por ejemplo, para que puedan saber quiénes van a ser sus clientes, qué producto va a desear un cliente, para que puedan adelantarse a esos deseos, para que puedan desarrollar más productos o concentrar sus esfuerzos en este campo. Y también está la publicidad. Es decir, la publicidad, gracias a los algoritmos basados en inteligencia artificial, no se dirigen masivamente a cualquier persona que accede a un soporte, a una persona que lee un periódico, que ve una valla. Sino que es una publicidad orientada a los gustos que el algoritmo nos dice que van a tener determinados sectores de clientes”, ha indicado el catedrático de la Universidad de Oviedo. 

Eso también es algo que ha ayudado mucho a las empresas. Y es lo que explica el gran éxito de empresas que, en definitiva, viven de la publicidad, como Google o Amazon. “También ha ayudado el adaptar las condiciones contractuales a las necesidades y características de cada cliente, algo que, por ejemplo, en el mundo de los seguros, ha hecho que se utilice mucho estas técnicas”. 

La metamorfosis empresarial

Por su parte, Jesús Mercader ha incidido en la idea de que estamos en un mundo de tal grado de transformación, de tal grado de cambio, que la empresa en sí misma se está transformando en muy diversos aspectos. “Se está transformando el ecosistema empresarial de una forma extraordinariamente intensa, la incorporación del big data, impresoras 3D, fórmulas de inteligencia artificial, son elementos que ya están en la lógica empresarial. Por lo tanto, que los algoritmos incorporen esa lógica de cambio y transformación es lógico hasta cierto punto y normal”. 

Así, desde el punto de vista de los datos Mercader ha considerado que se puede observar con claridad cómo la empresa ha cambiado en su fisonomía y morfología. “Si comparamos cuáles eran las diez primeras empresas hace diez años con las de ahora, vemos que el mundo digital ha cobrado un espacio extraordinariamente importante. Y las empresas algorítmicas, o las empresas donde el algoritmo está en el corazón del negocio, son una realidad cierta. Google o Netflix tienen en el centro y en el corazón de las mismas a los algoritmos”. 

Pero es que, según él también hay empresa que son puros algoritmos. “He tenido la oportunidad de analizar los complejos problemas que se plantean en relación con la transmisión de estas empresas. Y son empresas que tienen en su centro el algoritmo, algoritmos predictivos, y que, alrededor de estos, trabajan con un volumen muy grande de personas de alta cualificación profesional que lleva problemas jurídicos de muy diverso alcance. Problemas en el ámbito mercantil, desde el punto de vista de la propiedad intelectual, fiscal o laborales”.

Los riesgos de los algoritmos 

Del mismo modo, Huergo ha asegurado que hay un ambiente de crítica, más o menos generalizado, predominante, hacia los algoritmos como punta de lanza de la inteligencia artificial aplicada al análisis de datos. De ahí que haya puesto el ejemplo de la medicina, que es uno de los campos que tiene un desarrollo más claro, tanto ahora como en el futuro, sobre los algoritmos. “Y es que, en la interpretación de análisis de los medios de diagnóstico que sirven para detectar enfermedades, ningún analista, por muy experto que sea, puede haber visto tantas pruebas, tantas radiografías, tantas resonancias, como los datos que se pueden recoger y que se pueden analizar matemáticamente”. 

De tal manera que, según Huergo, el algoritmo, o las aplicaciones predictivas, han demostrado ya que “pueden predecir enfermedades importantes mejor que el ojo clínico del profesional –entre comillas–, que es una experiencia personal limitada”. E incluso, a partir de ese análisis, de millones de pruebas, de millones de casos, pueden detectar síntomas que han pasado inadvertidos a quienes han trabajado con una experiencia más limitada. 

Aún así, existen muchos riesgos por su utilización, bastante identificados y estudiados. “Uno de ellos –ha subrayado– es el problema de los sesgos. Es decir, en la medida en que, por ejemplo, una administración en lugar de inspeccionar al azar inspecciona las empresas que unos algoritmos han identificado que encajan en diversos patrones”.

¿Por qué? “Porque son más propensas al fraude, puede dar lugar a que determinadas empresas o determinados ciudadanos sean más inspeccionados que los demás. Puede coincidir, por ejemplo, los que son personas físicas con los que están en grupos de vulnerabilidad. Puede hacer que personas que estaban en una situación desfavorable ya de partida se encuentren en una situación todavía más desfavorable, e incluso, que se produzca el efecto de la Profecía Autocumplida”.   

El caso del algoritmo Frank

Mercader ha puesto el ejemplo del conocido como algoritmo Frank, el que utiliza Deliveroo en sus procesos de selección y de ajuste de ofertas y demandas de servicios. “Ha sido declarado discriminatorio por una sentencia muy reciente del Tribunal Ordinario de Bolonia, del 30 de diciembre de 2020, donde se analiza que el algoritmo que sirve de base para la asignación de las franjas horarias, en las que se toma en cuenta como criterio para ‘rankear’ a los prestadores de servicio en función de su disponibilidad. El criterio de ese algoritmo era discriminatorio porque las ausencias se trataban igual que se producían por mera voluntad del rider, que decidía voluntariamente no prestar servicio, que aquellas otras ausencias que obedecían a enfermedades, a participaciones en huelgas o a conciliación de la vida familiar”.

Para Mercader, uno de los caminos para tratar esas discriminaciones puede ser un uso muy intenso, o dar un paso más en los principios fundamentales que existen en materia de protección de datos, como la minimización en el tratamiento de los datos, el control sobre esas informaciones, la aplicación del célebre principio de proporcionalidad –pero con una intensidad reforzada para estos casos– o la transparencia. “La transparencia –ha incidido– es un elemento clave en todo este modelo, aunque esto no significa que se tenga que conocer todo el contenido del algoritmo, sino que probablemente haya que conocer la lógica del algoritmo. Conocer eso es conocer el secreto de la empresa, su corazón, y podría llevar a situaciones complicadas”. 

Al final, “los algoritmos son neutros, no tienen imaginación”. Lo que hacen es reconocer unos datos y tratarlos según nosotros se los aportamos. “Si nosotros entregamos unos sesgos, ya hay discriminación. Vivimos discriminación en varios de los procesos de selección de algunas empresas”.

Share on facebook
Share on twitter
Share on linkedin
Share on whatsapp
Share on email

Deja un comentario

ZONA VIP

Accede a tus contenidos exclusivos

ZONA VIP

Accede a contenidos exclusivos

Suscribete a nuestra newsletter semanal