Faut-il craindre la disparition du jugement humain ?

À mesure que les modèles d’IA s’invitent dans les recrutements, les tribunaux, la médecine, et jusque dans nos échanges intimes, une question s’impose : le jugement humain est-il en train de s’effacer, ou seulement de se déplacer ? Les promesses de rapidité et d’objectivité séduisent, mais les controverses sur les biais, l’opacité et la responsabilité s’accumulent, et les régulateurs accélèrent. Derrière le fantasme d’une machine qui déciderait à notre place, l’enjeu est plus concret : qui tranche, sur quelles preuves, et avec quels garde-fous ?

Quand l’algorithme tranche, qui répond ?

Décider vite, décider “mieux”, décider à grande échelle : voilà l’argument massue. Dans l’assurance, la banque, le e-commerce ou la lutte anti-fraude, les modèles de scoring hiérarchisent des dossiers en quelques secondes, et, dans le secteur public, des outils d’aide à la décision orientent aussi des contrôles, des priorités, parfois des allocations de moyens. Le risque, pourtant, n’est pas seulement la “machine froide”, c’est l’illusion qu’un calcul produit une vérité. Un modèle n’émet pas un jugement moral, il optimise une fonction à partir de données passées, et si ces données portent des déséquilibres, des erreurs ou des angles morts, l’optimisation les fige, puis les déploie.

Les chiffres de la gouvernance européenne illustrent la bascule en cours : l’AI Act, adopté en 2024 et publié au Journal officiel de l’UE, installe une logique par niveaux de risque, interdit certaines pratiques, et encadre strictement des usages jugés “à haut risque”, notamment dans l’emploi, l’éducation, l’accès à des services essentiels, ou encore la justice. Concrètement, cela impose des obligations de documentation, de qualité des données, de traçabilité, d’évaluation et, point crucial, de surveillance humaine. Le texte ne règle pas tout, mais il acte une idée simple : à partir d’un certain seuil d’impact sur les droits, on ne peut plus se contenter d’un “le modèle a dit”. Si l’outil influence une décision, quelqu’un doit pouvoir expliquer, contester, corriger, et assumer.

L’objectivité promise, les biais retrouvés

Peut-on vraiment “neutraliser” le jugement humain en le confiant à un modèle ? L’expérience montre plutôt un déplacement des biais qu’une disparition. Le monde académique l’a documenté depuis longtemps, et les institutions publiques ont fini par s’en emparer : le NIST, l’agence américaine de normalisation, a publié en 2023 un cadre de gestion des risques liés à l’IA, qui insiste sur des biais multiples, statistiques, sociotechniques, liés aux usages, et sur la nécessité de tests continus. Même logique côté européen : le RGPD impose déjà une vigilance sur les décisions automatisées, et l’AI Act renforce l’idée d’auditer, de surveiller et de tracer.

Dans les faits, les biais apparaissent souvent là où l’on regarde peu. Un modèle de tri de candidatures peut apprendre, sans le “vouloir”, des corrélations entre trajectoires scolaires et catégories sociales, ou pénaliser des parcours atypiques parce que l’historique valorise la conformité, et, dans la santé, un système d’aide au diagnostic peut sous-performer sur des populations sous-représentées dans les bases de données. Même lorsque les variables sensibles sont retirées, d’autres variables agissent comme des proxys, le code postal remplaçant l’origine sociale, certains termes linguistiques signalant le genre, et des indicateurs d’historique médical corrélant avec des inégalités d’accès aux soins. La promesse d’“objectivité” se heurte alors à une réalité : l’IA ressemble au monde tel qu’il a été enregistré, pas tel qu’on voudrait qu’il soit.

Le danger le plus discret porte un nom en psychologie cognitive : l’automatisation de la confiance. Quand un outil donne une réponse avec aplomb, sous forme de score ou de recommandation, l’utilisateur se met à l’aligner, surtout sous pression de temps, et même si la politique interne exige une validation humaine. Le jugement ne disparaît pas, il se tasse, il devient une formalité, et c’est ainsi que les erreurs passent, non par absence d’humain, mais par présence routinière.

Dans l’intime, le jugement change de camp

La question n’est plus confinée aux administrations et aux entreprises. Les modèles génératifs se glissent dans les conversations, reformulent nos messages, suggèrent des réponses, et, progressivement, influencent des choix affectifs et sociaux. Faut-il répondre tout de suite, comment relancer, quelle tonalité adopter, que dire après un silence ? Ce qui relevait du tact, de l’intuition, et parfois du courage, se retrouve converti en “meilleure pratique” textuelle, optimisée pour réduire le risque de rejet, et donc pour lisser la singularité. Le jugement humain, ici, ne s’efface pas tant qu’il s’externalise : on délègue à un tiers computationnel une part de l’embarras, et, avec lui, une part de responsabilité.

Cette transformation s’observe aussi dans les outils d’évaluation de la “compatibilité”, qu’ils soient fondés sur des questionnaires, des comportements en ligne ou des signaux de communication. Le lecteur curieux peut consultez cette ressource ici pour en savoir plus sur la manière dont ces usages s’installent, et sur les interrogations qu’ils soulèvent. Car l’enjeu dépasse la simple commodité : quand on confie à une machine la formulation de nos intentions, on accepte qu’elle normalise ce qui “fonctionne”, et qu’elle pousse, mécaniquement, vers des scripts efficaces. À petite dose, cela peut aider les plus timides, à grande échelle, cela peut appauvrir le langage relationnel, et fabriquer des interactions plus prévisibles, donc plus rentables pour les plateformes, mais moins humaines pour ceux qui les vivent.

Le paradoxe, c’est que cette délégation peut aussi renforcer une forme de jugement social. Si l’IA propose des réponses “optimales”, ceux qui ne les utilisent pas paraissent brusques, maladroits, ou en retard, et la norme se déplace. On ne juge plus seulement ce que quelqu’un dit, on juge le fait qu’il n’ait pas “bien” formulé, et l’on oublie qu’un message imparfait peut être plus sincère qu’une phrase impeccable. Le risque n’est pas la disparition du jugement, c’est sa standardisation : le bon goût devient un modèle, et le modèle devient le bon goût.

Rester humain : une discipline, pas un slogan

Qui protège le jugement humain ? Ni la nostalgie, ni le rejet global, mais des règles, des pratiques et une culture du doute. Le premier réflexe, dans les organisations, consiste à définir où l’IA peut aider sans décider. Pour des tâches répétitives, comme le tri initial de demandes simples, l’outil peut accélérer, mais il doit être borné, testé, et surtout contestable. Dès qu’il s’agit d’accès à un droit, d’un refus, d’une sanction, d’un diagnostic, ou d’une orientation qui peut enfermer une personne dans une catégorie, la supervision humaine doit être réelle, c’est-à-dire dotée de temps, de formation, et de pouvoir d’annulation. Un “humain dans la boucle” qui signe sans lire n’est pas une garantie, c’est un alibi.

Deuxième exigence : rendre la décision audit-able. Les régulateurs poussent vers des journaux d’événements, des fiches de modèle, des tests de robustesse, et des évaluations d’impact. Cela suppose d’accepter une idée simple : un modèle se mesure, et il se surveille comme une infrastructure. Les performances globales ne suffisent pas, il faut regarder les écarts entre groupes, les faux positifs, les erreurs coûteuses, et suivre l’évolution dans le temps, car un modèle dérive lorsque le monde change. Sans ce suivi, on confond “précision” et “fiabilité”, alors que la seconde implique de savoir quand l’outil se trompe, et de le détecter avant qu’il n’abîme des vies.

Enfin, il faut préserver des espaces où l’humain assume, pleinement. Dans la justice, par exemple, même si des outils peuvent aider à gérer des dossiers, l’acte de juger engage une société, et ce lien ne se délègue pas. Dans la médecine, l’IA peut repérer des motifs dans des images, mais l’annonce, l’écoute, la balance bénéfices-risques, et la prise en compte du patient restent des gestes humains. Dans l’éducation, l’évaluation ne consiste pas seulement à noter, elle sert aussi à comprendre une progression, à encourager, à corriger, et à reconnaître un effort. Le jugement humain, au fond, c’est la capacité à relier une décision à une histoire, et à en porter la responsabilité en face de quelqu’un.

Ce que vous pouvez faire, dès maintenant

Avant de réserver un service “assisté par IA”, demandez ce qui reste humain, et à quel moment vous pouvez contester une décision ; comparez les budgets, car les offres “automatisées” masquent parfois des options payantes, et surveillez les aides disponibles, notamment en formation et en transformation numérique, car des dispositifs publics financent des accompagnements, à condition d’exiger transparence, traçabilité et droit au recours.