Justice prédictive : fiction ou réalité ? Petit détour avec Psycho-pass
Introduction
Il y a déjà longtemps que je voulais écrire quelque chose sur Psycho-pass (サイコパス) !
Je vous rassure tout de suite, il y a des différences. Ce dont je vais vous parler aujourd’hui, Psycho-pass, n’en est pas moins inintéressant ; bien au contraire !
Levons le doute tout de suite. Psycho-pass, c’est un anime !
Mais avant toute chose, c’est quoi un anime ? Et plus précisément un anime de style cyberpunk ?
L’anime Psycho-Pass
Le style cyberpunk
Ce genre littéraire et sous-genre de la science-fiction (SF) se caractérise par la description d’une société où la technologie est au moins ultra-présente : implants neuronaux, nanotechnologie, intelligence artificielle ou encore réalité virtuelle parmi d’autres sont monnaie courante. L’ambiance est souvent sombre, pessimiste et cynique.
Sur le plan politique, on retrouve le mouvement punk lié à la contre-culture : dégradation de la société, concentration des pouvoirs, libertés restreintes etc. Un écrivain du genre, précurseur, est l’Américain Philip K. Dick. Il a notamment écrit Blade Runner qui a été popularisé et adapté au cinéma avec le film éponyme réalisé par Ridley Scott en 1982. Une oeuvre culte et archétypale du style cyberpunk.
Et les anime alors ?
Vous avez peut-être déjà entendu le terme de manga ? On entend souvent l’un ou l’autre. Mais alors de quoi parle-t-on ?
Anime et manga
Un anime est une série ou un film d’animation d’origine japonaise. Si vous avez connu le Club Dorothée ou la chaîne de la 5 à l’époque, vous en avez probablement vu un certain nombre ! Dragon ball, Les chevaliers du zodiaque, Ranma 1/2, Sailor Moon, Olive et Tom et j’en passe. Pour les plus anciens, Candy, Goldorak, Capitaine Flam, Ulysse 31 ou Albator 78/84 étaient aussi des animes. Des animes parfois mal perçus ou compris car importés sans la connaissance culturelle qui va avec ou alors appréciés mais sans les comprendre vraiment totalement. Les mangas, quant à eux, sont les BD japonaises. Les animes sont souvent tirés de mangas très populaires. L’inverse arrive parfois également.
Quant à Psycho-Pass, l’anime est sorti en 2012 puis adapté en manga en 2014. Il existe aussi un film d’animation sorti en 2015 et une trilogie en 2019.
Mais alors quel rapport ?
J’y viens ! Et c’est là où ça devient encore plus intéressant !
Psycho-pass : saut dans le futur
Synopsis :
Tokyo, année 2112.
Dans ce futur dystopique totalitaire, la vie des Tokyoïtes est gérée par le système Sybil créé et lancé par le ministère du bien-être pour un « monde parfait ». Sybil s’appuie notamment sur plusieurs moyens : drones, scanners en tous genres, caméras ainsi que des moyens humains d’intervention. Fondé par Sybil, l’institut de la sécurité publique qui comprend plusieurs unités d’action distinctes est notamment composée de la Division 1, brigade criminelle, qui a pour mission de prévenir le crime.
D’accord, mais comment ?
Cette brigade est constituée entre autres d’agents appelés exécuteurs. Et ces exécuteurs ont une arme appelée dominateur. Celui-ci qui ressemble à un revolver gros calibre en version technologique et biométrique, sans tirer de balles, ne fonctionne donc que dans la main de son exécuteur propriétaire.
Mais si le dominateur ne tire pas de balles, à quoi sert-il ? En fait, cette arme singulière fonctionne en quelque sorte à la fois comme un scanner et à la fois comme une arme (avec 4 modes différents dont un mode paralysant et un mode létal).
Dirigée vers un suspect, celle-ci analyse son coefficient criminel appelé psycho-pass.
Si ce coefficient est inférieur à 100, le suspect est considéré sans danger.
De 100 à 299, le suspect est considéré comme un criminel latent ; il y a alors arrestation et obligation de « thérapie » qu’on pourrait qualifier de thérapie de conversion ayant pour but de rééduquer le suspect afin qu’il ne soit plus un danger pour la société.
Enfin, un suspect ayant un coefficient de 300 et plus est arrêté et enfermé ou alors exécuté.
N.B : les fameux exécuteurs qui font partie de la division 1 ont un Psycho-Pass anormalement haut.
Le film Minority report, réalisé par Steven Spielberg et sorti en 2002 qui est aussi une adaptation d’une nouvelle du même nom écrite en 1956 par Philip K. Dick, repose sur le même principe. L’histoire se passe en 2054 dans un monde où le crime a disparu grâce à un système de prévention et de détection. Trois extras-lucides transmettent les images des crimes à venir aux policiers de la Précrime.
Vous aurez compris tout le sens du mot « préventif »… Il s’agit ici de supposer à l’avance du risque de passage à l’acte d’un individu avant qu’il commette un crime. Voilà une question passionnante à la fois juridique, sociale, éthique, morale et philosophique.
Beaucoup de fiction direz-vous peut-être ?
Eh bien peut-être pas !
De la fiction à la réalité : la justice dite prédictive (et la police prédictive)
Aux États-Unis
En 2014, l’état de Floride aux USA a annoncé une collaboration avec IBM à l’aide d’un outil d’analyse de données générales pour prévenir la récidive des mineurs délinquants pour aider à évaluer les risques et mieux comprendre ce qui motive la délinquance.
Depuis 2015, plusieurs villes américaines dont New York, Edmonton, Minneapolis, Los Angeles, Memphis ou Santa Cruz utilisent des logiciels (dont Google Maps) pour prédire le lieu et la date d’un crime… avant qu’il ne soit commis. Ce qui laisse le temps aux patrouilles de « police prédictives » qui utilisent ces cartes de renforcer leur présence dans les zones désignées. Selon les types de crimes et les régions, le taux de criminalité (cambriolages, vols de voiture etc,) a baissé de 17 à 40 %. Ici il s’agit surtout d’analyses statistiques et probabilistes qui croisent de nombreuses données (horaires, lieux, types de situation etc.) et non des personnes. Économiquement, il semblerait que les crimes soient, par ailleurs, moins chers à prévoir qu’à résoudre.
En septembre 2020, une information a été révélée. Le shérif du comté de Pasco, en Floride, a mis en place un système de « surveillance et prévention » du crime chez les plus jeunes. Les notes et les absences scolaires des jeunes, les infractions mineures et même les cas où ils sont victimes d’un crime sont utilisés pour informer un faux système de rubriques et de points, basé sur une formule qui vise à «prévenir de futurs crimes» – qualifiant essentiellement les jeunes de potentiels futurs criminels. Une fois qu’un mineur est étiqueté avec cette étiquette, la police se présente à son domicile et harcèle toute sa famille… Certaines institutions et organisation qui défendent les libertés ont vivement critiqué ce projet afin qu’il soit stoppé.
En Chine
En 2017, la Chine a lancé un plan national avec l’intention d’être un acteur de premier rang dans l’intelligence artificielle (IA) dans le monde d’ici 2030. Elle est déjà en 2021 un acteur majeur dans ce domaine. Ce plan vise notamment plusieurs secteurs dont celui, on ne peut plus sérieux, de la sécurité nationale avec l’intention très claire d’utiliser l’IA pour prédire les crimes. Dans une société de surveillance comme celle de la Chine qui comptait déjà à l’époque 176 millions de caméras, capables a priori de détecter les visages, d’analyser les comportements et de croiser ces analyses avec les données de la police, dont l’objectif est d’indiquer un « taux de risque de crime » pour chaque individu et de prévenir la police pour qu’elle intervienne en cas de danger pose au moins beaucoup de questions.
Il est également bon de rappeler que ce plan national s’appuie sur un dispositif déjà existant depuis 2014 et qui a déjà fait couler beaucoup d’encre en matière de « société de surveillance » : le fameux crédit social. Celui-ci consiste en un « capital de points » augmenté ou diminué selon le niveau de vertu de chaque citoyen. En somme, le comportement citoyen (ou pas) détermine un bonus ou un malus et facilite ou complique la vie dudit citoyen dans sa vie quotidienne et sociale.
Et en France ?
Depuis septembre 2021, une proposition de loi circule dans les couloirs de l’Assemblée nationale. Celle proposition de loi qui vise à faire face au problème des rodéos sauvages consiste notamment à utiliser des drones pour suivre les contrevenants. Il est souhaité par certains députés que cette proposition soit introduite dans le projet de loi relatif à la responsabilité pénale et à la sécurité intérieure, discuté à partir de 14 septembre en commission des lois à l’Assemblée nationale.
Par ailleurs, le décret n° 2020-356 du 27 mars 2020 fait référence à un algorithme baptisé Datajust qui, comme son nom l’indique, parle de données et de justice. Cet algorithme a pour finalité son développement destiné à permettre l’évaluation rétrospective et prospective des politiques publiques en matière de responsabilité civile et administrative et l’élaboration d’un référentiel indicatif d’indemnisation des préjudices corporels. En d’autres termes, il s’agit, à travers la création du traitement automatisé de données à caractère personnel, Datajust de collecter toutes les décisions de justice liées à des dossiers d’indemnisation de victimes depuis 2017.
Conclusion
De la même façon qu’on parle aujourd’hui de médecine prédictive, le terme de justice prédictive existe aussi depuis quelques années. Mais qu’est-ce qu’on entend par là ? Il s’agit, in fine, d’une justice appuyée par les possibilités offertes par les ressources mathématiques et informatiques et donc basée sur des statistiques et des probabilités.
Toutefois, on peut s’interroger, notamment dans le domaine du droit, sur l’exactitude étymologique du terme prédiction, peut-être trop souvent employé. Le terme de prévision ne serait-il pas plus pertinent ?
On peut aussi s’interroger. A fortiori dans notre système juridico-culturel français dont la présomption d’innocence est l’un des socles. Éthiquement et philosophiquement, comment défendre ce principe si on part du postulat que l’on « prédit » ou « prévoit » des crimes ? Ne serait-on pas en train de glisser vers une société de la suspicion et de la méfiance ?
D’un autre côté, il est vrai que ces outils, sans les substituer aux spécialistes du droit, peuvent apporter une quantité d’informations précieuses pour les aiguiller, avec toute l’éthique requise, dans leurs choix et décisions.
Et de la même façon que l’intelligence artificielle est de plus en plus utilisée dans la santé, elle l’est également dans le domaine de la justice. En Estonie, qui est l’un des pays les plus avancés dans le domaine de l’IA, les affaires dont le litige est inférieur à 7000 euros et qui relèvent de la «justice réparatrice» est jugée par un robot-juge. Il est toutefois possible, si l’on n’est pas satisfait de la décision rendue par l’IA évoquée, de demander à passer devant un magistrat humain.
Toutes ces évolutions technologiques peuvent tout autant apporter des problèmes supplémentaires que des solutions. Le domaine de la justice ce n’est pas que l’analyse de dossiers et des décisions, c’est d’abord une question de rencontre, d’écoute, d’appréhension d’une situation unique et singulière et donc de contextualisation. Ces outils sont-ils capables de mesurer toutes les subtilités de chaque affaire ? Jusqu’à quel point peuvent-ils vraiment être utilisés ? Ne se dirige-t-on pas vers une uniformisation de la jurisprudence ? D’un autre côté, le système judiciaire est aujourd’hui en souffrance et ses capacités d’action sont mises en difficulté pour de nombreuses raisons. Ils peuvent aussi être une aide à la décision et permettre de désengorger des tribunaux noyés sous le nombre de dossiers et accélérer les décisions de justice dont la lenteur est aussi une source de souffrance pour les personnes concernées. À nous, humains, de bien connaître ces technologies et leurs usages pour mieux les maîtriser et les utiliser en notre faveur plutôt que contre nous.
