Claves para avanzar hacia una Inteligencia Artificial más abierta e inclusiva
En el marco del proyecto ‘Gobierno Abierto: para todas las personas’, y en colaboración con el Ministerio de Hacienda y Función Pública, la Plataforma del Tercer Sector ha organizado la jornada ‘Inteligencia Artificial e impacto social’ con el objetivo de analizar el impacto social de la Inteligencia Artificial, su influencia en la garantía de derechos, en la participación ciudadana y sus posibles sesgos discriminatorios. Para ello, se convocó a entidades, organizaciones y profesionales en un evento celebrado el 16 de diciembre en el Impact Hub Piamonte de Madrid.
Durante la apertura de la jornada, Leopoldo Pérez, vicepresidente de Financiación y Sostenibilidad de la Plataforma del Tercer Sector, destacó la importancia del convenio de colaboración entre la PTS y el Ministerio de Hacienda y Función Pública, que está permitiendo acercar y fomentar el conocimiento del Gobierno Abierto entre las personas en situación de exclusión y vulnerabilidad. Por su parte, Clara Mapelli, directora general de Gobernanza Pública del Ministerio de Hacienda y Función Pública, subrayó la importancia de abordar el impacto de la Inteligencia Artificial en el acceso a derechos y sus posibles sesos discriminatorio y destacó el papel del Gobierno Abierto y sus herramientas para encontrar soluciones a las problemáticas que puedan surgir en su aplicación.
Durante la primera parte de la jornada, se abordó el impacto de la Inteligencia Artificial en la garantía de derechos. Para ello se contó con la participación de Carmen Cabanillas, subdirectora general de Gobernanza en Materia de Registros del Ministerio de Hacienda y Función Pública, Julián Andújar, director de la Fundación Tecnologías Sociales – TECSOS y Francisco Bariffi, profesor e investigador especialista en Derechos Humanos. Carmen Cabanillas aportó la perspectiva de la administración y explicó cómo gracias al análisis de información se pueden aplicar soluciones más eficaces y eficientes para las personas en situación de vulnerabilidad y afirmó que la Inteligencia Artificial nos permite avanzar en una comunicación más clara y sencilla para toda la ciudadanía.
Por su parte, Julián Andújar señaló la capacidad del Tercer Sector para alzar la voz cuando los algoritmos y la Inteligencia Artificial no funcionen correctamente o generen discriminación. Además, explicó cómo gracias a la Inteligencia Artificial, “desde el Tercer Sector podemos hacer predicciones que nos permitan identificar mejor las necesidades y dar respuestas más adecuadas para las personas con las que trabajamos”.
Francisco Bariffi aseguró que “la Inteligencia Artificial, diseñada por humanos para humanos, debería igualarnos en el acceso y en el ejercicio de los derechos" y señaló tres grandes riesgos sobre las implicaciones éticas de la Inteligencia Artificial: los sesgos discriminatorios, la vigilancia masiva y el derecho a la privacidad y la desigualdad en el acceso.
La segunda parte de la jornada profundizó en las claves para avanzar hacia una Inteligencia Artficial más abierta e inclusiva. Para ello, tomaron la palabra representantes de entidades y empresas como la Fundación Civio, AlgoRace, Prodigioso Volcán y Algoverit.
En esta mesa se abordaron cuestiones relacionadas con el uso de la tecnología para facilitar el acceso de la ciudadanía a servicios y prestaciones, las brechas de acceso existentes y la necesidad de más transparencia por parte de las administraciones públicas sobre el diseño de los sistemas de decisión. También se profundizó en los sesgos discriminatorios de los algoritmos, la realidad de la digitalización de las fronteras y las implicaciones que tiene para los derechos de las personas migrantes.
A modo de conclusión, la última parte de la jornada ofreció algunas ideas clave para avanzar hacia una Inteligencia Artificial abierta e inclusiva: la necesaria participación de las personas afectadas en el diseño y desarrollo de las soluciones y aplicaciones, la intervención de equipos multidisciplinares, la participación del Tercer Sector y de la sociedad civil y el fomento del derecho a entender y la comunicación clara.
Esta jornada forma parte de las actividades desarrolladas en el proyecto ‘Gobierno Abierto: para todas las personas’ fruto de la colaboración entre la Plataforma del Tercer Sector y el Ministerio de Hacienda y Función Pública con el objetivo de informar, sensibilizar y concienciar a la ciudadanía sobre los principios del Gobierno Abierto y sus derechos de acceso a la información pública y a la participación en los asuntos públicos.
