Embaucher, évaluer, licencier :
pourquoi ces décisions restent humaines.

Le tri automatisé de candidatures est l'un des usages les plus anciens et les plus répandus de l'aide algorithmique à la décision. Il est aussi celui dont les régulateurs se sont saisis le plus tôt, et l'un des rares où deux logiques distinctes — la contrainte juridique et la nature de la décision — pointent exactement dans la même direction.

Cela mérite d'être noté, parce que c'est inhabituel. En matière d'IA, le droit et le bon sens organisationnel divergent souvent. Ici, non.

Ce que dit le cadre réglementaire

Le règlement européen classe l'emploi et la gestion des travailleurs parmi les domaines où les systèmes d'IA sont soumis aux obligations les plus lourdes : recrutement, sélection, attribution de tâches, évaluation, décisions de promotion et de fin de relation. Les devoirs qui s'y attachent — documentation, gestion des risques, supervision humaine effective, information des personnes — ne sont pas optionnels.

Au Québec, l'obligation vient d'un autre angle et aboutit au même endroit : une décision fondée exclusivement sur un traitement automatisé doit être annoncée à la personne, explicable sur demande, et révisable par quelqu'un. Le tri de candidatures entre dans cette définition dès lors que personne n'examine les dossiers écartés.

Les autorités de protection des données de plusieurs juridictions ont par ailleurs signalé les technologies de ressources humaines comme un secteur d'attention. Ce n'est pas une menace lointaine : c'est un domaine où les plaintes individuelles sont fréquentes, parce que la personne concernée est directement affectée et sait à qui s'adresser.

L'argument qui tient même sans la loi

Supposons le droit silencieux. L'argument de fond resterait entier, et il est plus simple que le premier.

Une évaluation professionnelle n'a d'autorité que si quelqu'un l'assume. La personne évaluée doit pouvoir dire « je ne suis pas d'accord » à quelqu'un qui peut répondre, expliquer, réviser. Ce n'est pas une exigence sentimentale : c'est ce qui distingue une évaluation d'un verdict, et ce qui rend le désaccord possible.

Une organisation qui remplace cela par un score perd davantage qu'un dispositif de recours. Elle perd la conversation qui, dans la plupart des cas, était le vrai produit de l'exercice.

Un salarié peut accepter une mauvaise nouvelle. Il accepte difficilement de ne pas savoir qui la lui a donnée. L'autorité d'une décision vient de sa paternité autant que de son contenu.

Ce que l'outil peut faire, et où il s'arrête

La frontière n'interdit pas l'outil : elle interdit la substitution. La distinction est nette et elle s'applique à chaque étape.

La ligne de la colonne de droite a un point commun : dans chaque cas, une personne disparaît de la boucle et il ne reste plus personne à qui parler.

Le cas limite qui décide de tout : la présélection

La présélection est le cas où la frontière se discute réellement, et il mérite d'être tranché plutôt qu'évité.

Un filtre qui écarte les candidatures ne remplissant pas un critère annoncé et vérifiable — un permis d'exercice obligatoire, une autorisation de travail — reste un filtre. Il applique une règle que l'organisation assume publiquement, et le candidat peut la lire.

Un filtre qui classe les candidatures par un score d'adéquation appris sur les recrutements passés est autre chose. Il reproduit des décisions antérieures dont personne n'a examiné la justesse, et il écarte sans que personne ne lise. Ce n'est plus un filtre : c'est une évaluation, faite par une machine, sur un critère que le candidat ne peut ni connaître ni contester.

• Le test : le critère d'écartement peut-il être écrit dans l'annonce, en une phrase, sans gêner l'organisation ?
• Si oui, l'outil applique une règle et reste en Zone Automatisée.
• Si non, l'outil évalue — et cela appartient à quelqu'un.

Trois mesures qui règlent l'essentiel

1. Quelqu'un lit ce qui est écarté. Pas tout : un échantillon, régulièrement, avec le temps de le faire. C'est ce qui rend le taux d'erreur visible.
2. Les critères sont publiés avant. Un critère qu'on ne peut pas annoncer est un critère qu'on ne devrait pas appliquer.
3. Un nom figure au bas de chaque décision. Celui de la personne qui la porte, et à qui on peut répondre.

L'objection du volume, prise au sérieux

L'objection la plus sérieuse n'est pas idéologique, elle est arithmétique : mille candidatures pour un poste, et personne pour les lire. Elle mérite une réponse, parce que la balayer d'un principe ne convainc aucun directeur des ressources humaines.

La réponse tient en trois déplacements, et aucun ne consiste à lire les mille.

1. Réduire à la source. Une annonce qui énonce précisément les critères éliminatoires reçoit moins de candidatures et de meilleures. Le tri commence à la rédaction de l'offre, pas à la réception.
2. Filtrer sur l'annoncé, puis s'arrêter. Les critères publiés s'appliquent mécaniquement, sans état d'âme. Ce qui passe ce filtre est lu.
3. Échantillonner les écartés. Vingt dossiers pris au hasard parmi les refusés, lus sérieusement, chaque campagne. C'est ce qui révèle qu'un critère écarte systématiquement un profil qu'on voulait attirer.

Le troisième point est le seul qui coûte du temps, et c'est celui qui rapporte le plus : c'est la seule mesure qui rende visible une erreur de critère avant qu'elle ne devienne une habitude.

Le signal que la ligne a été franchie

Une organisation sait qu'elle a délégué une évaluation quand elle ne sait plus répondre à une question simple, posée par un candidat ou un employé : pourquoi cette décision ?

Trois réponses indiquent que la ligne est derrière soi. « C'est le score qui l'a déterminé. » « L'outil a classé votre dossier en dessous du seuil. » « Le système applique nos critères, je n'ai pas le détail. » Aucune des trois n'est illégale en soi ; les trois signalent qu'il n'y a plus personne au bout.

La réponse qui indique l'inverse est courte et tient en une phrase : « J'ai regardé votre dossier, et voici ce qui a manqué. » Elle suppose que quelqu'un a regardé. C'est tout ce que la Zone Sanctuaire exige.

Ce que ce cadrage ne résout pas

• Il ne remplace pas une analyse juridique. Les obligations exactes dépendent du droit applicable, du rôle tenu et de la qualification du système ; ce texte aide à préparer la question, pas à la trancher.
• Il ne traite pas le biais du décideur humain. Une décision humaine n'est pas neutre par nature. Ce que le cadre garantit, ce n'est pas l'absence de biais, c'est l'existence de quelqu'un à qui les opposer.
• Il ne dit pas comment absorber le volume. Une organisation qui reçoit mille candidatures par poste a un problème réel, et il se résout par le périmètre et l'échantillonnage — pas en supprimant la lecture.