IA : l’hypothèse Frankenstein
L’intelligence artificielle échappera-t-elle à ses créateurs pour menacer la survie de l’humanité ? Plutôt que de disserter à l’infini sur cette perspective vertigineuse, mieux vaudrait mettre en place une vigie indépendante qui éclaire l’opinion.
Comme toute technologie nouvelle et puissante, l’intelligence artificielle nous ramène à l’antique métaphore, toujours d’actualité : l’IA est comme la langue d’Ésope, la meilleure et la pire des choses. La meilleure ? Elle ouvre des possibilités immenses pour la recherche, la médecine, l’éducation, l’industrie et peut déboucher sur une ère nouvelle de prospérité fondée sur un accroissement historique de la productivité du travail.
Le risque d’une IA hors de contrôle
Mais plusieurs lanceurs d’alerte venus de l’intérieur des multinationales qui la développent, Anthropic ou OpenAI, assurent qu’elle a désormais la capacité de gagner son autonomie pour se lancer dans des entreprises folles de destruction et de sabotage à l’échelle planétaire. Tel le monstre de Frankenstein qui échappe à son créateur, ou encore à l’instar de l’ordinateur HAL du film prophétique de Stanley Kubrick 2001, l’Odyssée de l’espace, l’IA se retournerait contre ses démiurges. Certains font même référence à l’autre dystopie majeure de la production hollywoodienne, le sinistre Terminator, qui décrit une société placée sous la férule implacable de robots sanguinaires et tyranniques.
Les bons spécialistes de la question jugent pour l’instant cette hypothèse invraisemblable, sûrs que les ingénieurs responsables auront toujours le pouvoir, tels les astronautes de 2001, de débrancher les IA saisies par l’hubris de la domination. Certains soupçonnent même ces mastodontes numériques lancés dans une compétition mondiale d’agiter à dessein ces angoisses horrifiques pour démontrer leur puissance, élaborer eux-mêmes les garde-fous nécessaires et s’arroger ainsi le monopole de la régulation du secteur. Dans une entreprise de « captation régulatoire », disent-ils, Anthropic et les autres veulent surtout élever des barrières destinées à contrer la concurrence chinoise.
La régulation de l’IA devient politique
L’affaire a pris un tour politique incandescent aux États-Unis. Les démocrates – et même certains républicains – en ont fait un cheval de bataille électoral, réclamant à cor et à cri une régulation publique, que Donald Trump écarte avec mépris en qualifiant de « canular » les avertissements des lanceurs d’alerte et écartant avec brutalité toute perspective de réglementation fédérale. Bernie Sanders, Barack Obama et plusieurs candidats démocrates aux Midterms mettent en garde contre les dangers de l’IA et exigent la constitution d’une commission d’enquête au Congrès. Le pape Léon XIV, ou bien hier Ursula von der Leyen dans son discours sur l’état de l’Union européenne, ont tenu des propos similaires.
Une vigie indépendante pour l’intelligence artificielle
Quel que soit le point de vue qu’on adopte, lugubrement dystopique ou joyeusement utopique, une chose est sûre : l’IA est une chose trop sérieuse pour être laissée aux multinationales de l’IA. L’affaire concerne la communauté des citoyens et non seulement celle des milliardaires et des consommateurs. Dans ce domaine comme dans les autres, le marché ne se régulera pas tout seul et les multinationales, géants privés mus par la seule logique de la rentabilité, ne sauraient se substituer aux représentants du peuple. C’est aux instances démocratiques légitimes et élues de s’emparer de la question. L’urgence de l’heure est donc éclatante de simplicité : mettre sur pied à brève échéance un comité indépendant des pouvoirs politiques, techniques ou économiques, mêlant savants et praticiens, et qui serve, à l’instar de l’Autorité de sûreté nucléaire, de vigie démocratique.
