© iStock

Compas, un logiciel pour prédire la récidive accusé d’être peu fiable et raciste

Marie Gathon
Marie Gathon Journaliste Levif.be

Le logiciel Compas est utilisé par de nombreux juges américains comme  » aide à la décision  » lorsqu’il s’agit d’évaluer le risque de récidive d’un détenu. Son efficacité a été étudiée scientifiquement et les résultats ne sont pas glorieux.

Compas est l’acronyme de « Correctional Offender Management Profiling for Alternative Sanctions ». Ce programme est utilisé par de nombreux juges dans des juridictions locales pour les aider à prendre leur décision quand il faut enfermer quelqu’un de manière préventive ou le libérer sous caution.

Les défenseurs de ce programme affirment qu’il est plus objectif que l’être humain pour analyser les chances de récidive d’un criminel, rapporte Le Monde. Doutant de cette affirmation, deux professeurs en informatiques du Dartmouth College, Julia Dressel et Hany Farid, ont étudié la fiabilité du programme en la comparant avec les résultats obtenus par des humains n’ayant aucune ou très peu d’expertise judiciaire. Les résultats de leur étude viennent d’être publiés dans la revue scientifique Science Advances.

Les personnes participantes ont été recrutées via internet. Le profil de plusieurs condamnés leur a été présenté avec uniquement quelques informations sur leur genre, leur âge et leur casier judiciaire. Elles devaient ensuite répondre à la question : « Pensez-vous que cette personne commettra un autre crime d’ici deux ans ? » Le programme informatique avait par contre 127 critères à sa disposition pour effectuer la même analyse.

Dans 67 % des cas, les humains ont vu juste alors que Compas obtient un taux de réussite de 65,2 %, soit un résultat assez similaire. « C’est perturbant que des travailleurs du Web non formés puissent être aussi efficaces qu’un programme informatique utilisé pour prendre des décisions pouvant changer la vie d’un prévenu », estime Hany Farid dans un communiqué. « Les affirmations selon lesquelles des outils opaques et soi-disant sophistiqués sont plus pertinents et justes que les humains ne correspondent tout simplement pas aux résultats de nos recherches », ajoute Julia Dressel. Ces outils de prédiction de la récidive dans les tribunaux devraient donc être remis en question, selon les chercheurs.

Ce n’est pas la première fois que Compas est sous le feu des critiques. En 2016, une enquête du site d’investigation journalistique ProPublica affirmait que le logiciel est raciste. Les journalistes avaient alors comparé les résultats concernant 7000 criminels afro-américains et blancs arrêtés en Floride.

Les résultats s’étaient avérés aussi fiables qu’un simple « pile ou face » et étaient également racistes. Les risques concernant les Afro-Américains étaient largement surestimés tandis que ceux des blancs étaient sous-estimés. Le risque de récidive pour les personnes noires était alors deux fois plus élevé que celui des blancs.

La société Northpointe, qui a développé le programme garde secret son algorithme. Il est donc impossible de contrôler s’il a été fait de manière objective ou non.

Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici

Contenu partenaire