Recientemente, Anthropic propuso un acuerdo global para establecer una pausa en el desarrollo de la inteligencia artificial, ante el riesgo de acercarnos a la “automejora recursiva”, es decir, que la propia IA cree y entrene a los siguientes sistemas sin intervención humana. Este escenario nos plantea nuevas cuestiones sobre los riesgos del desarrollo acelerado de la IA y los límites éticos que debe tener la misma. Para aclararlas, conversamos con un experto en inteligencia artificial como el vicedecano del área de Empresa y Business Analytics de la Universidad Europea de Madrid, Javier Camacho.
Camacho aclara que no nos encontramos ante un riesgo real de “singularidad tecnológica”, en el que las máquinas puedan reproducirse y mejorarse a sí mismas como en ciertas películas y novelas de ciencia ficción que todos tenemos en mente. Se trata más bien de que “entramos en una fase distinta, en la que todo se está acelerando de una manera que los propios programadores no pensaban”. Ante esta situación, Javier Camacho plantea preguntas de gobernanza, más que técnicas: “Si esto va a ir tan rápido, ¿vamos nosotros a ser capaces de poner en marcha mecanismos de gobernanza, medidas de seguridad, guidelines?”. Y, no menos importante: “¿Qué capacidad tendrán las instituciones para seguir ese ritmo?”.
Gobernanza y riesgos
Cuando habla de “mecanismos de gobernanza” para garantizar el control humano sobre estos sistemas, este experto en IA tiene en mente cuatro aspectos. El primero, “que esa supervisión humana que se exige en algunas aplicaciones sea efectiva, no sobre el papel”. El segundo es la “trazabilidad”, es decir, “hay que exigir que en un sistema que tome decisiones que puedan afectar a personas, poder saber exactamente qué datos y qué criterios se han tenido en cuenta para tomar esas decisiones”.
Una tercera cuestión sería disponer de “un sistema efectivo de desconexión, de parada, de pausa… lo que llaman un kill switch”. Y para que estas tres cuestiones se puedan verificar, “hace falta un sistema de auditoría independiente, que puede ser institucional, por parte de algún organismo público o por una empresa independiente, pero que verifique que esas tres condiciones previas se cumplen efectivamente en los sistemas” de IA.
Quedamos, por tanto, en que a día de hoy, el riesgo no está en la posibilidad de que la IA piense sola o se vuelva consciente, sino en que “al acrecentar esa velocidad de cambio, evolucione tan rápido que nos impida ir poniendo mecanismos que la puedan frenar” si es necesario.
Además, “cuanta más autonomía tenga, obviamente hay más peligro de que se produzcan decisiones opacas, de que se amplifiquen sesgos que nos pasen inadvertidos o de un comportamiento no previsto que no podamos mitigar a tiempo”. Camacho añade un último “macrorriesgo”, derivado de las milmillonarias cifras de inversión en tecnologías de IA: “El problema ya no es solamente tecnológico, es de concentración de recursos, de tecnología, de poder”. “Si en tu empresa o en un servicio público, dependes de una tecnología sobre la que tienes cero control y hay un país o una empresa que puede decidir cortar el grifo, ese es un verdadero riesgo”.
¿Se puede realmente llegar a una pausa tecnológica coordinada a escala global? El académico de la Universidad Europea se muestra escéptico: “No es imposible, pero sí muy difícil, o poco realista”. Lo que sí se podría hacer, opina Camacho, es establecer medidas más concretas. Por ejemplo, “desarrollar un guion de auditoría para verificar que esos tres o cuatro mecanismos que proponía anteriormente están implantados efectivamente en los sistemas”. O “establecer unos límites sobre el uso computacional” por empresa o por país. “Esa podría ser una vía creativa de encontrar una cierta limitación, de manera que los entrenamientos de modelos, que se sabe que exigen unas cantidades de recursos de computación increíbles, puedan estar monitorizados de alguna forma”, explica.
Ética y regulación
Lejos de ser alarmista acerca de los desafíos que plantea la evolución actual de la IA, Javier Camacho cree que este desarrollo “nos va a ayudar precisamente a acentuar más la importancia de los conceptos de responsabilidad, de ser humano, de conciencia, de pensamiento crítico…”.
Como especialista en ética y deontología, señala vario desafíos ético-regulatorios. Por un lado, la seguridad: “Que los sistemas estén alineados con los objetivos que realmente queremos y sean seguros”. También transparencia: “Cuando cada vez más, estos sistemas afectan a temas de salud, de empleo, de ayudas, de créditos, de educación, de privacidad u otros derechos, hay que abordar el desafío de la transparencia”. Y en tercer lugar, “la fragmentación regulatoria”.
En el caso específico de Europa, tenemos además un desafío propio, que es la soberanía en sentido tecnológico. “Estamos encantados de regular, de proponer, pero hace falta inversión y reindustrializar con mayúsculas”, asegura Camacho, pues “está claro que a mayor dependencia tecnológica, menos soberanía real”.
El vicedecano de Empresa y Business Analytics de la Universidad Europea reflexiona sobre el papel que puede jugar el mundo universitario en el desarrollo ético y seguro de la inteligencia artificial. “Yo creo que el mundo académico ha tenido siempre un rol muy importante en los inicios de la inteligencia artificial, pero ahora tiene que tener un rol mucho más proactivo en formar, más que en IA, en IA responsable”.
Asimismo, en opinión de Camacho, la universidad “es el foco donde puede surgir de manera más independiente y, a lo mejor, mucho más transnacional, esa reflexión o esa alianza que plantee una nueva forma de gobernanza, nuevos marcos éticos y de gestión de estos sistemas”. En un ecosistema como el de la IA, marcado por una cierta rivalidad entre instituciones y entre empresas, “la universidad puede jugar ese papel de actor un poco más neutral, un jugador más defensor de la sociedad civil”.
