L’homme qui obéit au GPS
Ce n’est pas la machine qui menace les humains. C’est le renoncement des humains à l’autonomie, qui les rend dangereusement dépendants.
Il y a quelques jours, dans plusieurs taxis parisiens, j’ai observé la même scène : des détours parfois absurdes, justifiés par une réponse invariable du chauffeur : « C’est le GPS. » Aucun ne semblait connaître réellement la ville ni éprouver le besoin de vérifier l’itinéraire proposé. L’algorithme avait parlé. Le chauffeur ne regardait plus à sa fenêtre. Cet épisode banal révèle un phénomène plus profond : la tendance croissante des êtres humains à abandonner leur jugement au profit des machines.
La servitude volontaire algorithmique
Dans son Discours de la servitude volontaire, La Boétie s’étonnait qu’un peuple puisse se soumettre sans contrainte à un tyran. Aujourd’hui, cette logique se retrouve dans notre rapport aux technologies.
Le GPS ne force personne. Il suggère, et nous obéissons parce que cela demande moins d’effort que de réfléchir par nous-mêmes. La technologie numérique a transformé cette facilité en réflexe quotidien. Chaque recommandation algorithmique nous dispense d’un choix, chaque automatisation nous soulage d’une décision. Et la paresse fait le reste.
Le chauffeur qui suit aveuglément Waze n’est pas stupide ; il a simplement jugé que vérifier coûte plus cher cognitivement que faire confiance. Étendu à l’échelle d’une société, ce comportement devient problématique.
L’atrophie des capacités humaines
Les recherches en neurosciences montrent qu’une fonction mentale régulièrement déléguée finit par s’affaiblir. Nous mémorisons moins de numéros, nous nous orientons moins bien et nous écrivons avec davantage d’hésitations depuis que les outils numériques accomplissent ces tâches pour nous.
Pris isolément, chaque abandon paraît raisonnable. Leur accumulation dessine une dépendance croissante. Le problème n’est pas que l’intelligence artificielle dépasse l’homme ; c’est que l’homme risque de perdre certaines de ses propres capacités faute de les exercer.
L’outil devient alors une tutelle. Il crée progressivement l’incapacité qu’il prétend compenser. Le chauffeur qui ne connaît plus sa ville n’est pas une exception : il préfigure un type humain efficace tant que la machine fonctionne, mais démuni lorsqu’elle disparaît.
Quand la machine se trompe
Cette dépendance devient particulièrement préoccupante lorsque les algorithmes commettent des erreurs. Des médecins ont tendance à suivre les recommandations d’outils d’IA même lorsqu’elles contredisent leur propre expertise. Des juges utilisent des scores de récidive produits par des logiciels opaques. Des pilotes voient leurs compétences manuelles diminuer sous l’effet de l’automatisation.
Dans ces situations, la responsabilité devient floue. Qui est responsable de l’erreur : l’utilisateur, le concepteur du système ou l’organisation qui l’impose ? Il est toujours plus simple de dire : « C’était le GPS » que d’assumer son propre renoncement au jugement.
La panne comme révélateur
Tant que les systèmes fonctionnent, leur utilité paraît évidente. Mais lorsqu’ils tombent en panne, la dépendance apparaît au grand jour.
L’attaque informatique NotPetya, en 2017, a paralysé de nombreux ports exploités par Maersk, non parce que les compétences humaines avaient disparu, mais parce que les organisations ne savaient plus fonctionner sans leurs logiciels.
Le problème n’est donc pas la panne elle-même. C’est l’atrophie des compétences qui permettaient autrefois de gérer la situation sans assistance numérique.
Une vulnérabilité stratégique
Cette question dépasse le simple confort quotidien. Les conflits récents – en Ukraine, en Iran… – ont montré que les réseaux, satellites, systèmes GPS et infrastructures numériques constituent des cibles prioritaires.
Une société qui dépend fortement des algorithmes est doublement vulnérable : elle perd l’outil lorsqu’il est neutralisé, mais elle a souvent perdu aussi les savoir-faire que cet outil avait remplacés. La dépendance numérique devient alors une faiblesse stratégique.
Que faire ?
De l’imprimerie à Internet, l’histoire est jalonnée d’innovations qui ont suscité des peurs, des résistances, voire des prophéties apocalyptiques. Et puis le monde a avancé. L’IA ne fait pas exception. La question n’est pas de savoir s’il faut lui tourner le dos, mais comment en garder le contrôle.
Il faut d’abord réhabiliter la vérification. Utiliser un algorithme ne dispense jamais d’exercer son esprit critique. Le médecin demeure responsable du diagnostic ; le chauffeur reste responsable du trajet.
Ensuite, il faut entretenir les compétences fondamentales : apprendre à calculer avant d’utiliser une calculatrice, à s’orienter avant d’ouvrir une application, à argumenter avant d’interroger un chatbot.
Les secteurs critiques doivent également être capables de fonctionner en mode dégradé lorsque les systèmes numériques sont indisponibles. Enfin, il faut renforcer les mécanismes de supervision humaine et de responsabilité dans les systèmes algorithmiques.
Le véritable enjeu n’est pas de « désarmer » l’intelligence artificielle, comme dit le Vatican. C’est de réarmer l’intelligence humaine.
Le vrai risque : l’abdication
Le débat sur l’IA oscille souvent entre deux fantasmes : celui d’une humanité augmentée et celui d’une machine qui prendrait le pouvoir. Dans les deux cas, on suppose que la technologie est l’acteur principal.
Le problème est ailleurs. Les machines ne veulent rien. Elles ne décident rien. Le véritable danger réside dans notre choix de leur abandonner progressivement nos facultés de jugement.
Une domination peut être combattue. Une abdication volontaire est plus difficile à inverser parce qu’elle prend l’apparence du confort et de la rationalité. Et le risque s’aggrave avec le temps. Chaque génération qui grandit sans apprendre à se passer des algorithmes hérite d’une dépendance supplémentaire. Dans quelques décennies, du fait de l’assistance numérique, des professions entières pourraient être entre les mains de praticiens sans aucune pratique.
L’intelligence artificielle représente une promesse considérable. Mais si nous laissons la paresse décider à notre place, nous ne serons pas seulement vaincus par les machines. Nous aurons renoncé à une part essentielle de ce qui fait notre condition d’Homo sapiens.
