La automatización de decisiones como la concesión de créditos, la selección de personal o el acceso a servicios hace indispensable garantizar equidad y transparencia en los sistemas de inteligencia artificial. Estos retos no solo son técnicos sino también sociales, por lo que requieren reflexión ética, supervisión y compromiso institucional. El proyecto ‘Fair Learning’, coordinado por Data University (BBVA) y el Instituto de Ciencia de Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra, busca responder a este reto desde las perspectivas tecnológica, filosófica y legal.
Durante los próximos tres años, veinte expertos, que incluyen científicos de datos de BBVA y académicos de la Universidad de Navarra de diversas disciplinas como ingeniería, filosofía, medicina, derecho y economía, colaborarán para diseñar un marco que permita detectar, mitigar y corregir sesgos, garantizar la privacidad, la justicia y la autonomía de las personas, y definir buenas prácticas conforme a la normativa vigente.
“La IA ya es un pilar fundamental de la transformación del banco y lo seguirá siendo aún más en los próximos años, por lo que debemos asegurar que su desarrollo sigue principios de equidad, responsabilidad y transparencia”, afirma Josep Amorós, coordinador del proyecto y ‘senior manager’ en Analytics Transformation en BBVA.
“La IA responsable es uno de los grandes retos de esta nueva era y más allá de la mera aplicación de los principios éticos generales queda un campo abierto que explorar mediante una investigación multidisciplinar”, afirma Jesús López Fidalgo, coordinador del proyecto por parte de la Universidad de Navarra, director del instituto de Ciencia de Datos e IA. “Este tipo de investigación está en la esencia de la Universidad de Navarra, que dispone de los recursos humanos óptimos para llevarla a cabo, junto al equipo de la Data University de BBVA”.
El triángulo virtuoso: tecnología, filosofía y regulación
Una de las principales exploraciones de ‘Fair Learning’ es cómo mitigar la presencia de sesgos en los datos. Para ello, el equipo de trabajo utilizará métodos matemáticos y estadísticos avanzados que ayudan a evitar que los modelos aprendan patrones discriminatorios o sesgados durante su entrenamiento, compensan la infrarrepresentación de conjuntos de datos (por ejemplo, de un grupo demográfico determinado) en otros de mayor amplitud, o monitorizan los resultados de modelos ya entrenados para garantizar que no vulneran los intereses de ningún grupo poblacional.
Además, el equipo incorporará marcos filosóficos como la IA centrada en el ser humano (‘human-centered AI’) y la ética de la virtud, que guía el desarrollo tecnológico siguiendo criterios morales y responsabilidad social. El objetivo es construir sistemas que garanticen el respeto a la privacidad, promuevan la equidad y refuercen la autonomía de las personas sin suplantarlas. Además, analizará cómo llevar a cabo auditorías éticas y establecer procesos de evaluación continua que aseguren la mejora constante de estos sistemas.
En el ámbito regulatorio, el proyecto ‘Fair Learning’ analizará el marco legal vigente, con base en el nuevo reglamento europeo de IA (EU AI Act), para definir buenas prácticas y proponer recomendaciones que aseguren una implementación ética y jurídicamente alineada de los sistemas de inteligencia artificial.
Ayesa confía en crecer un 25 % en proyectos de IA anualmente
Por otro lado, la tecnológica española Ayesa, anunció ayer que está desplegando un plan de inversión para “blindar su posicionamiento” con tecnologías de agentes de IA de todos sus partners mundiales.
Desde la compañía indican que esta tecnología “está llamada a transformar la forma en que las empresas ya operan y toman decisiones”. Ayesa prevé un crecimiento del 25 % anual en proyectos de IA y para ello está “reforzando su talento y alianzas tecnológicas”, lo que incluye la “certificación intensiva” de sus consultores en las últimas soluciones lanzadas al mercado por sus partners.
Lo hace de la mano de fabricantes globales de tecnología, entre los que destacan Google Cloud, Salesforce, AWS, Azure y SAP. Este enfoque de colaboración permite a Ayesa “anticiparse a los avances y aplicar en sus proyectos las soluciones más innovadoras y eficaces”.
La firma busca liderar así el desarrollo e implementación de agentes de inteligencia artificial (IA) en sectores estratégicos como el financiero, de viajes y servicios o utilities. Ayesa ha creado canales de conversación automatizados para compañías españolas como BBVA, Abanca, Mutua Madrileña, Meliá o Mapfre. También ha implementado agentes de IA en empresas de energía y utilities como Iberdrola o Enel, orientados a “automatizar procesos internos complejos y mejorar la productividad”.
“La irrupción de los agentes inteligentes en los sectores regulados está marcando un antes y un después. Ya no hablamos solo de sólo de eficiencia o automatización, sino de colaboración entre humanos y sistemas capaces de razonar, aprender y actuar en tiempo real. Y lo estamos haciendo posible gracias a la combinación de talento, tecnología y visión estratégica”, señala Marian Aradillas, responsable de IA en Ayesa.
