Le score qui recrute à notre place

Un candidat postule, un logiciel note son profil, un responsable coche une case. Personne n'a vraiment décidé, et pourtant quelqu'un a été écarté. C'est le miracle discret du recrutement automatisé : produire une exclusion sans producteur identifiable.

La promesse était belle. En confiant le tri des candidatures à une machine, on éliminerait enfin les préférences, les têtes qui reviennent, les CV jugés sur le prénom ou l'adresse. La note remplacerait le regard. C'est l'argument qu'on nous ressert chaque fois qu'un système prend la place d'un jugement : il serait plus froid, donc plus juste.

L'objectivité comme mise en scène

Le problème n'est pas que la machine se trompe. C'est qu'elle reproduit fidèlement ce qu'on lui a donné à apprendre, et que ce qu'on lui a donné à apprendre, ce sont des décennies de décisions humaines, avec leurs habitudes et leurs raccourcis. On appelle cela pudiquement un « biais des données d'entraînement », comme s'il s'agissait d'un défaut de fabrication et non du matériau lui-même.

Le score ne corrige rien : il fige. Une préférence ancienne, répétée assez de fois, devient une régularité statistique. Une régularité statistique, présentée avec assez d'aplomb, devient un « score standardisé ». Et un score standardisé, personne n'ose le contester, parce que contester un chiffre demande une légitimité que contester une intuition ne demandait pas.

C'est là le tour de force : on a transformé un jugement, contestable par nature, en donnée, réputée ne pas l'être.

Le contrôle humain, une case à cocher

On nous rassure avec l'idée d'un « contrôle humain » qui superviserait la machine. En théorie, un responsable examine la proposition algorithmique et peut la refuser. En pratique, ce responsable dispose rarement du temps, de la formation ou de l'autorité nécessaires pour remettre en cause un résultat présenté comme mathématique. Revenir sur une note, c'est s'exposer à devoir justifier une préférence — exactement ce que l'algorithme était censé éviter.

Le contrôle humain devient alors un rituel de validation plutôt qu'un examen. On réunit, on regarde le score, on signe. Celui qui s'y opposerait serait aussitôt suspecté de vouloir réintroduire de la « subjectivité » face à de la « donnée », comme si la donnée n'était pas elle-même née de subjectivités accumulées.

Le contrôle humain n'a jamais eu besoin d'être réel pour être rassurant ; il suffit qu'il soit prévu.

Ce que le débat public regarde ailleurs

Pendant ce temps, la conversation publique se passionne pour une inquiétude plus spectaculaire : celle d'une intelligence artificielle si puissante qu'elle menacerait l'espèce entière. C'est une peur confortable, parce qu'elle se projette dans un futur qui n'engage personne aujourd'hui.

Les décisions qui abîment réellement des vies sont plus ordinaires : un profil écarté d'un emploi, un dossier de prêt refusé, une candidature jamais examinée par un humain. Aucun tribunal n'est vraiment compétent pour ces cas, aucun recours individuel n'est prévu, et le fonctionnement exact du modèle reste protégé par le secret commercial. On sait qu'un score existe ; on ignore ce qu'il pénalise.

Il faudrait sans doute cesser d'opposer les deux peurs, la lointaine et l'ordinaire, car elles se nourrissent l'une l'autre : plus on s'inquiète de la machine qui pourrait tout décider un jour, moins on regarde celle qui décide déjà, aujourd'hui, en silence, avec notre signature au bas de la page.