Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l'ús dels algoritmes

Abstract

La governança intel·ligent és un nou model de gestió pública que s’està dibuixant a mesura que l’ús dels algoritmes es va estenent entre les administracions públiques. Aquest nou model s’enfronta a diversos riscos, entre els quals destaca l’opacitat. A l’article s’analitzen els factors que poden determinar que l’ús dels algoritmes generi opacitat a les administracions públiques. A partir de la identificació d’aquests factors, s’exposen els mecanismes per canalitzar la transparència dels algoritmes a través dels quals la ciutadania pot accedir i conèixer el contingut dels algoritmes i el seu funcionament. També es presenten els mecanismes a través dels quals les administracions públiques poden rendir comptes per les decisions que es prenen a través dels algoritmes. Finalment, es proposa l’oportunitat d’impulsar un marc institucional que fomenti una bona governança intel·ligent.

Smart governance is a new governance model that is emerging as a result of the increasingly widespread use of algorithms in public administration. However, this new model is open to various risks, one of which is opacity. In this article, we examine the factors that may play a determining role in algorithms generating opacity in public administration. After identifying these factors, we describe the mechanisms for making algorithms more transparent, based on giving citizens access to and information about the actual contents of algorithms and their functioning. We also present the mechanisms that can be used to make public administrations accountable for any decisions taken using algorithms. Lastly, we suggest that an opportunity exists to establish an institutional framework for promoting good, smart governance.