Por David Pastor y Raquel Jorge Ricart
El evento “Las Ciudades y los datos: consideraciones éticas” nace de la conexión del área de ética y revolución digital desde la Cátedra UPM – Iberdrola para los Objetivos de Desarrollo Sostenible y la plataforma “El Día Después” (EDD) y su comunidad de ciudades.
Carlos Mataix, director del itdUPM, y Ángeles Santamaría, consejera delegada de Iberdrola España, abrieron destacando la necesidad de este tema para alcanzar los ODS, incluido el ODS-17, referido a las alianzas. Luis Quevedo fue el encargado de conducir este evento.
Las ciudades afrontan importantes retos, aún más tras la crisis del COVID-19. Sabemos que los datos y la Inteligencia Artificial (IA) suponen una oportunidad para diseñar y transformar ciudades más sostenibles y resilientes. Sin embargo, existen riesgos y dilemas.
Con la pandemia, la digitalización se ha acelerado. Es importante allanar el camino de su uso y aplicación con el fin de pasar de políticas públicas reactivas a mecanismos anticipatorios.
Miguel Luengo Oroz (UN Global Pulse) destaca que la crisis ha supuesto una expansión en el espectro de usos. Desde Naciones Unidas hay un interés especial en el impacto en colectivos vulnerables y se ha presentado la Hoja de Ruta para la Cooperación Digital: IA confiable, IA sostenible y derechos humanos.
Además, la sociedad digital supone nuevos retos como la propagación de desinformación (infodemia), para la cual es necesario desarrollar “vacunas digitales”. Esta crisis nos ha enseñado el valor de colaborar y desde lo local, co-crear lo global.
Enrique Crespo (Ayuntamiento de Madrid) remarca el valor de la transparencia: no es sólo necesario que los datos sean públicos, tiene que haber sistemas que faciliten su acceso.
La población debe ser consciente de que los datos existen y pueden recurrir a ellos. Este principio de proactividad implica también la creación de portales de transparencia. Esto se complementa con el derecho de acceso a información pública y la vigilancia de la legalidad. A estos principios se unen la integridad de la información y la no parcialidad.
Juan Murillo Arias (BBVA), nos encuadra en la tipología de datos y sus aplicaciones: datos personales y no personales, cada cual con usos, riesgos, alcance e impactos propios. La digitalización y la acreditación personal han sido claves en poder sostener los servicios básicos durante la crisis.
Una tercera vía es usar datos personales, y agregarlos para utilizarlos de forma no personal, como las transacciones bancarias. “La ética es aquello que va más allá de la regulación” y es clave en las relaciones de confianza.
Michael Donaldson (Ayuntamiento de Barcelona) destacó “un desplazamiento” en nuestra forma de vida y es vital plantearlo desde la esfera de lo personal.
La ciudad de Barcelona va a posicionarse mediante una declaración sobre ética y tecnologías emergentes. Este posicionamiento gravita sobre un decálogo “soft regulation”: interés público, transparencia, rendición de cuentas, supervisión y responsabilidad, autonomía de comportamiento, privacidad, seguridad, explicabilidad, anti-discriminación y evaluación periódica.
Los tres principios articuladores de la tecnología deben ser: lícita, ética y robusta (en lo técnico y en sus resultados a nivel social).
Vídeo de la sesión celebrada el pasado 25 de junio de 2020
Con la participación de:
Celia Fernández (UPM) nos centra en la relación ética-regulación y en establecer un roadmap ético que nos prevenga ante el punto de inflexión de la “singularidad de la IA”: la nivelación entre personas y máquinas.
Un marco fruto del consenso son los derechos humanos que están en la base de los ODS. La ética es necesaria, pero no suficiente, tiene que haber una regulación que debe adaptarse para prevenir y sancionar conductas negativas.
Frente a las tendencias de autorregulación y de códigos propios, para Celia debe haber una regulación común, obligatoria, preferentemente internacional y con una gobernanza suficiente.
El público lanzó la pregunta sobre cómo integrar datos de varios sectores. Una clave son los estándares de agregación que permitan intercambio. Las herramientas informales que se han usado hasta ahora, como el Código Postal, no son suficientes ni comprensivas.
Sobre el uso de datos con mayor riesgo, hay que diferenciar contextos de crisis y normalidad que justifican usos más intensivos siempre de unos límites temporales para lo cual se requieren marcos internacionales.
Se preguntó sobre la idoneidad de comités éticos en las empresas. Existen perfiles dentro de empresas, pero es necesario un “tejido conectivo” que ayude conectar las necesidades con lo que se puede hacer con los datos para escalar.
Otra pregunta destacó la necesidad del “rendimiento de cuentas” de las empresas. Un aspecto importante es que al compartir datos se amplían sus usos pero también se pierde el control sobre los mismos. Algunos fines justifican la compartición de datos pero siempre bajo un análisis de riesgos y unos criterios.
Textu Ausin (Instituto de Filosofía del CSIC) advirtió sobre el “determinismo tecnológico”, que ya vivimos en tecno-ciudades, y que la tecnología no es neutral.
Dado este marco destaca un aspecto fundamental de la ética: la confianza, frente a perspectivas tecnófobas. La tecnología debe orientarse hacia el empoderamiento de la sociedad, lo que nos lleva a un nuevo “pacto tecno-social” que evite las “injusticias algorítmicas”.
Además de principios protectores y mecanismos de auditoría, como la huella ecológica de IA, hacen falta también acciones proactivas.
Margarita Robles (Universidad de Granada) remarcó que ética y derecho son distintos y asimilarlos puede conllevar problemas: la ética está en el ámbito de lo voluntario y el derecho de lo obligatorio.
Las éticas “son múltiples” y advirtió sobre los riesgos de un proceso “neo-colonizador”. Lo jurídico está garantizado y el incumplimiento puede ser castigado.
De este modo los derechos básicos son el mínimo universal necesario para abrazar las distintas éticas. La tipología de datos es una escala de grises y que puede darse una transición entre lo privado y lo público.
El diálogo puso de relieve la potencial colisión entre bienes jurídicos diferentes y la necesaria comunicación entre ética y derecho; los tiempos de acción de cada una son diferentes.
Oscar Corcho, profesor UPM, se enfocó en qué características deben tener los profesionales que trabajen con los datos y también los ciudadanos.
Es clave cuestionarse el “para qué” y potenciar la interdisciplinaridad en una práctica de la IA que ha pasado de reglas a entrenamiento. Es importante “apropiarnos” de la tecnología y diseñar soluciones híbridas, que además muestren el eje de utilidad para que la sociedad valore el uso de sus datos.
Gonzalo Fanjul, de IS Global y El Día Después, trajo al debate el problema de la redistribución de los bienes y la economía, especialmente en lo referente al trabajo.
Debemos potenciar trabajos de valor añadido. También se puede establecer el solidario concepto de “royalties”, referido a la cesión individual de nuestros datos.
Agustín Delgado, director de innovación y sostenibilidad en Iberdrola, preguntó sobre la capacidad de los datos para acelerar la Agenda 2030. Se pueden usar datos en todos los ODS, por ejemplo, la energía. La clave es alinear al sector público y privado en objetivos comunes.
Raquel Jorge, de OdiseIA, apunta a la importancia de la inteligencia colectiva y políticas concretas. Considerando los aspectos éticos y de derecho se puede pasar de políticas reactivas a proactivas y nuevos derechos.
Las ciudades pueden ser un nivel adecuado de trabajo. Para ello necesitaremos plataformas, que sean multi-stakeholder y que faciliten la colaboración público-privada.
También apunta a las safe-cities más allá de las smart-cities. La democratización de la tecnología implica también la democratización de las ciudades: sus espacios y en su población.