L’Ajuntament de Barcelona vol impulsar una intel·ligència artificial “ètica” per garantir la privacitat i el respecte dels drets digitals de la ciutadania. El consistori vol fixar una estratègia perquè quan l’administració municipal automatitzi decisions i polítiques públiques i gestioni grans volums de dades ho faci de forma ètica i respectuosa. Per això, es crearà una comissió transversal per l’impuls de la IA que tindrà entre les seves tasques validar els sistemes vigents i dirimir possibles conflictes que sorgeixin en aplicar algoritmes en processos intens i serveis públics de l’Ajuntament i ens municipals.
El conseller de Polítiques Digitals, Jordi Puigneró, ha criticat que l’Ajuntament de Barcelona hagi presentat la seva estratègia d’intel·ligència artificial sense tenir en compte que la Generalitat i el Parlament ja van aprovar-ne una fa més d’un any. “Trist veure com des de l’Ajuntament de la capital de Catalunya es presenta una estratègia en ètica en Intel·ligència Artificial sense ni mencionar la que va aprovar el Govern”, ha dit en una piulada. Puigneró també ha criticat que sí que es faci esment a l’estratègia ètica del govern espanyol, que fa dos anys va aprovar un polèmic decret que permet anul·lar les comunicacions en situacions d’alteració de l’ordre públic.
Barcelona és conscient que a nivell global els sistemes d’IA no estan exempts de riscos tecnològics i que el tractament de les dades sobre les quals es basen les decisions dels algoritmes no sempre són respectuosos amb el dret a la privacitat de la ciutadania. A més, és habitual que les bases de dades presentin biaixos socials. Per tot plegat, es vol posar ordre en com es recullen i s’analitzen les dades en combinació amb l’ús d’algoritmes a l’hora de prendre decisions. Algunes accions previstes per al període 2021-2023 són el desenvolupament de projectes pilot, la creació d’un registre municipal d’algoritmes, l’inventari de possibles necessitats de la IA a l’Ajuntament, la publicació d’una guia d’aplicació de la IA, els procediments administratius basats en les dades o l’establiment d’un observatori d’IA Urbana.
Alguns exemples d’aplicació recent de tecnologies emergents per part del consistori són l’IRIS –el servei que permet a la ciutadania comunicar incidències o reclamacions– o algoritmes que s’utilitzen en els sistemes informàtics de serveis socials que suggereixen els recursos destinats a cada cas. Un altre exemple és el monitoratge d’afluència a les platges, eina creada l’estiu del 2020 arran de la pandèmia i la necessitat d’informar sobre la capacitat real de les platges en funció de l’afluència. Per a la mesura de govern presentada s’ha tingut en compte la normativa i recomanacions vigents a escala internacional i local relatives a les dades i la intel·ligència artificial.
