Le profilage à l'aide de techniques algorithmiques par les autorités publiques : la transparence et l'explicabilité, des garanties impossibles à assurer ?

Aujourd’hui, les organismes publics recourent à des outils de profilage prédictifs afin d’identifier et de cibler certains profils à risque. En matière de lutte contre la fraude sociale, SyRI et OASIS, deux systèmes de "datamining" respectivement utilisés par l'Etat néerlandais et l'Etat belge, posent d'importantes questions concernant la protection des citoyens. Le premier générait de faux résultats et le second n'avait pas été publiquement divulgué. En termes de transparence et d'explicabilité, des notions utilisées tant dans le domaine scientifique que juridique, quelles garanties peuvent-être fournies ? Le cas échéant, permettent-elles de respecter les devoirs de l'Etat en droit belge ? Pour répondre à ces questions, nous analysons la proposition de législation sur l'intelligence artificielle déposée 21 avril 2021 par la Commission européenne.