Panodyssey - L'IA sauvera-t-elle la démocratie ?

Lors d’une conférence portant sur l’IA centrée sur l’Homme à l’université de Stanford, Bill Gates rapprochait l’intelligence artificielle et l’énergie nucléaire : dans les deux cas, « ces technologies sont porteuses d’espoir et dangereuses ».

. La grande presse relate les rounds entre l’IA et l’humain. « Les secrets d’une machine surpuissante. L’ordinateur Deep Blue joue aux échecs avec une mémoire alimentée par l’Homme. » s’émerveillait dès 1997 le journal Libération, après la victoire de Deep Blue, un supercalculateur développé par IBM, contre le champion du monde d’échec de l’époque. « Le meilleur joueur mondial de go battu par une intelligence artificielle dans un match symbolique » pouvait-t-on lire le 9 mars 2016 dans les pages du Monde, au lendemain de la victoire du logiciel AlphaGo de Google dans le jeu de go, qualifié de « Most complex game ever devised »[1]. Aujourd’hui, le sujet se démocratise. Sur les réseaux sociaux, dans les journaux, sur les produits que nous achetons, la marque « IA » devient gage de modernité, et s’ajoute à la catégorie « Tendance » du monde de l’entreprise. Terreau de nos plus grandes peurs et catalyseur de nos plus beaux rêves, il faut dire que le sujet stimule tous les égos.

L’IA sauvera-t-elle la démocratie ?

De quelle démocratie parle-t-on ? Le dêmos -le peuple-, le kratein -le pouvoir de commander-. Assemblons les deux et la démocratie se résumerait à un régime politique dans lequel le pouvoir appartient au peuple. Abraham Lincoln avait tenté d’éclaircir ce concept par une formule célèbre : la démocratie est « le gouvernement du peuple, par le peuple et pour le peuple. » Cette dernière proposition, « pour le peuple », emporte l’application de tout un ensemble de principes liés à la démocratie. La liberté et l’égalité n’étant que le sommet de l’iceberg. S’y ajoutent également des principes plus distants, comme l’intérêt général et l’ordre public. C’est donc une conception large de la démocratie que nous retiendrons. Il ne s’agira pas d’étudier le seul impact de l’IA sur le régime politique, mais l’impact de l’IA sur l’ensemble des principes directeurs qui constituent la graine identitaire de toutes les démocraties.

L’intelligence artificielle, qu’est-ce que c’est ? Le Larousse la définit comme « l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine ». Deux critiques peuvent être émises à l’encontre de cette définition. Premièrement, par l’utilisation du mot « machine », nous nous reportons à un produit mécanique matériel. Les IA peuvent cependant être, et sont pour la très grande majorité, totalement dématérialisées, et habitent de multiples objets interconnectés. Ensuite, seule une infime partie des IA auront pour objet de « simuler l’intelligence humaine ». Les programmes informatiques et intelligences artificielles présentent déjà des puissances de calcul bien supérieures à ce que l’humain le plus performant peut réaliser . Gordon E. Moore, fondateur d’Intel, avait émis en 1965 des prédictions sur l’amélioration de la puissance de calcul des ordinateurs, estimant que celle-ci doublerait tous les 2 ans. Les processeurs n’ont pas déçu et, étonnamment, cette prédiction fût si bien respectée qu’elle fût renommée « Loi de Moore ». Ainsi, il est fortement probable que les IA présenteront des intelligences sui generis, non calquées sur le raisonnement humain . Lors de la victoire définitive d’AlphaGo sur le champion du monde de go en 2016, un certain nombre de coups de la machine ont été qualifiés de « totalement incompréhensibles » par son adversaire. Au demeurant, ce dernier aurait déclaré avoir senti une « intelligence extra-terrestre » pendant le jeu. Si cette déclaration peut paraître effrayante, retenons simplement qu’elle désigne une intelligence non-humaine.

Le développement de ces IA forme la première révolution – nous la vivons aujourd’hui . Ces IA sont spécialisées et fonctionnent sur le modèle binaire d’une informatique classique. Elles ne sont pas à proprement parler « intelligentes », mais aident l’humain dans des tâches répétitives par leur rapidité. Les résultats d’une IA peuvent être corrigés par l’humain, c’est le machine learning, ou par elle-même, on parle alors de deep learning.

Une seconde révolution numérique se profile à l’horizon. Elle adviendra lorsque les IA seront dotées d’une intelligence générale, égale ou supérieure à celle des Hommes. Cet évènement est désigné comme la singularité . Si ces réflexions peuvent parfois relever de l’utopie ou de la dystopie, il reste néanmoins essentiel de s’interroger dessus, la probabilité qu’une telle singularité survienne étant non négligeable.

De tous temps, le mythe de la machine a fasciné l’être humain. L’IA figurait déjà dans la mythologie grecque, sous la forme des robots du dieu Hephaïstos. Nous la retrouverons dans la science-fiction sous la figure de Frankenstein, et la fascination se poursuit au travers de personnages comme celui du Terminator. Le sujet paraît inépuisable pour l’imagination, en témoigne le développement des séries Netflix sur l’intelligence artificielle (Black Mirror, Altered Carbon).

Historiquement, la naissance de l’intelligence artificielle remonte aux années 50, dopée par l’avènement de l’informatique. Naissent à ce moment les figures-pères de l’IA, à l’image d’Alan Turing qui créa en 1950 le « Test de Turing », permettant d’identifier le moment où l’IA dépassera l’intelligence humaine. L’intelligence artificielle sera érigée au rang de discipline universitaire très tôt, dès 1956.

Sauver ? Sauver de quoi ? La démocratie est-elle déjà perdue ? Les médias classiques font régner un climat anxiogène autour de la question de l’intelligence artificielle. Nombreux sont ceux qui prêchent la fin de l’humanité ou la fin de la démocratie. Au premier rang y figurent nos politiciens, à l’instar de Jean-François Copé qui a publié un livre intitulé « L’IA va-t-elle aussi tuer la démocratie ? »[2]. Remarquez l’adverbe « aussi », qui suggère une énumération d’impacts négatifs induits par l’IA.

Il faut dire que l’avènement des technologies d’IA est inévitable, s’il n’est pas déjà fait. L’avantage concurrentiel d’une entreprise employant des IA est considérable, de même que l’avantage militaire d’un Etat utilisant des avions de chasse pilotés par une IA ou exploitant une IA-stratégiste. C’est peut-être là le plus grand regret de notre société capitaliste, celui de ne pas avoir eu le choix face au numérique. Le Big Data est déjà parmi nous -remercions Google-, se présentant comme le plus fertile terreau au développement des IA, s’illustrant par la prolifération de capteurs en tout genre, recueillant des informations sur chaque individu connecté. Les enjeux sont considérables. Ils sont d’ordre humain, étatique, concurrentiel et individuel. Cependant, tâchons de relever le défi de la transition numérique collectivement, en s’informant, en questionnant, en identifiant les risques et en proposant des solutions. La société de demain est certainement différente, elle n’est pas mauvaise pour autant. Il nous appartient de la façonner.

La démocratie peut-elle survivre dans un monde (déjà) gouverné par l’IA ?

La réponse dépendra du stade d’évolution des intelligences artificielles. Les questions, les solutions induites, seront alors radicalement différentes : le point de bascule se cristallise autour de la singularité, moment où l’intelligence artificielle dépassera l’intelligence humaine.

Suite à une/la première révolution numérique, la démocratie semble toujours correspondre aux aspirations de la société (tout du moins occidentale). Cependant, certains de ses concepts, parfois centraux sous l’ancien empire démocratique, se présentent comme dépassés : la démocratie, oui, mais une nouvelle démocratie (I). Dans un second temps, avec la seconde révolution numérique, des principes trop inhérents à la démocratie seront renversés, empêchant sa survie. Il n’y a là, ni la volonté de prêcher le retour à un arbitraire totalitaire, ni celle de prédire un anarchisme machinal mais un appel à la formulation de véritables réflexions sur les régimes politiques (II).

I. La démocratie à l’aube de la première révolution numérique : vers une nouvelle conception de son identité

La première révolution numérique, nous la vivons aujourd’hui. Que change-t-elle pour l’Homme ? La démocratie est-elle menacée par cette première révolution numérique ? Des notions clés de la démocratie seront remises en question. Parmi elles, le vote, la place de l’Etat et le Droit. Pour autant, l’IA ne serait-elle pas désignée comme un bouc émissaire à tous les maux de la société ? Cette première révolution numérique n’emporterait-elle pas, aussi, des conséquences positives sur la construction démocratique ?

La démocratie : Comment choisir ses gouvernants ? C’est à une analyse plus procédurale de la démocratie – sur le modèle de Schumpeter – que nous nous livrons ici. Marina Teller[3] résumait, lors d’une intervention traitant de l’impact de l’IA sur la démocratie, qu’un régime politique démocratique nécessitait un vote (1), ainsi qu’un choix entre plusieurs candidats (2), ce choix devant être éclairé (3).

Le principe que nous pensons inné du droit au vote n’est pas acquis sous l’empire de l’intelligence artificielle. Nous savons que l’IA, sur le modèle d’un Big brother[4], est capable d’assurer une surveillance de masse aisément. C’est d’ailleurs le cas en Chine où, depuis 2014, un système de note sociale est en cours d’expérimentation. L’objectif pour le gouvernement communiste chinois est d’attribuer une note sociale à l’ensemble des citoyens d’ici 2020, celle-ci les incitant à adopter un comportement exemplaire. Si, pour l’instant, les sanctions attachées à une note sociale faible se limitent à une interdiction d’utilisation de certains services publics, il est tout à fait envisageable d’étendre ces sanctions à une déchéance du droit de vote pour les citoyens titulaires d’une note sociale jugée insuffisante. Il faut toutefois relativiser la portée de telles pratiques, il paraît peu probable que les sociétés occidentales ayant une histoire démocratique forte acceptent un tel régime. Néanmoins, pour la première fois dans l’histoire, les régimes politiques communistes bénéficient d’un moyen de contrôle efficace de leurs populations.
Dans la même veine, les citoyens ne bénéficiant pas d’une note sociale élevée ne pourront se présenter librement aux mandats publics.
Nous aimons croire à notre liberté de choix lorsque nous votons. Déjà pour Socrate, à la fin du Vème siècle avant JC, la démocratie était le régime de l’ignorance, favorisant la manipulation des foules par les grands orateurs sophistes. Aujourd’hui, la même question se pose à l’heure des scandales comme celui de Cambridge Analytica. En mars 2018, The New York Times et The Guardian révèlent que les données de plus de 87 millions d’utilisateurs Facebook auraient été recueillies par la société Cambridge Analytica. Cette dernière vendait ensuite ces données personnelles à des politiciens afin que ceux-ci puissent cibler leurs efforts de campagne. Le directeur de recherche de la firme Cambridge Analytica a, par la suite, estimé que cette exploitation des données personnelles a joué « un rôle crucial »[5] dans le Brexit. Il est également établi que Donald Trump a travaillé avec Cambridge Analytica lors de sa campagne présidentielle en 2016[6]. Quel politicien n’utiliserait pas cet outil permettant de savoir précisément quels électeurs cibler afin de faire basculer la campagne électorale ? A cet égard, cette liberté de choix lorsque nous votons peut apparaître restreinte.

Il faut toutefois relativiser la responsabilité de l’IA dans ces procédés. Cette méthode de ciblage électoral exploite essentiellement le Big Data, données de masse produites par les entreprises numériques internationales tels les GAFA (Google, Apple, Facebook, Amazon). Ce phénomène émane plus de la globalisation d’internet que de l’avènement de l’IA. L’IA permet seulement de traiter cette masse de données mais ne la crée pas.

Il semble que notre société contemporaine soit tombée dans le piège des services internets gratuits. L’internet a donné naissance à une nouvelle monnaie, semblable à aucune autre, encore plus révolutionnaire que les cryptomonnaies, nous permettant de consommer des produits numériques. Ce sont nos données personnelles qui constituent cette monnaie. Prenez par exemple de super-applications comme Google Maps, regroupant images satellites et photographies de chaque rue et chemin sur Terre. Pensez-vous que l’application se rémunère grâce à la simple indication de votre date de naissance et de votre adresse mail ? Les coûts de développement pharaoniques de telles applications sont couverts au prix de l’établissement d’un historique des déplacements de chaque utilisateur. Consultez cet historique et vous saurez dans quel restaurant vous avez mangé le mois dernier, quel musée vous avez visité, quel café vous avez fréquenté.

Mais ce phénomène n’est pas intrinsèquement mauvais. Ce choix a été fait collectivement. Il exprime la naissance d’un nouveau monde, avec de nouvelles valeurs. Alors que le concept de vie privée s’effrite, d’autres principes naissent simultanément, comme le nouveau besoin de transparence. Cette exigence de transparence ne se limite plus à l’action du gouvernement, à la vie des hommes politiques. Elle s’étend désormais à tous les acteurs de la vie économique : dirigeants, entreprises, associations.

Entre principe et effectivité, un gouffre s’étend, le RGPD pourra en témoigner.

La démocratie : Quelle place pour l’Etat face aux GAFA/BATX ? Dans une démocratie, il est parfois perdu de vue que l’Etat représente l’intérêt général, notamment en assurant le maintien de l’ordre public. On assiste aujourd’hui à un mouvement d’individualisation, les libertés individuelles prennent le dessus sur l’intérêt général. L’avènement de l’intelligence artificielle et des super-entreprises la développant semble exacerber ce recul de l’Etat, y compris dans ses fonctions régaliennes. L’invention de la technologie blockchain, par exemple, s’affranchit du contrôle étatique et assure une fonction de certification autonome. Ainsi, le Bitcoin, éminent représentant de la technologie blockchain, est parfois privilégié pour sa fiabilité et son intraçabilité à des monnaies étatiques. Dans la même trempe, certains pays à l’instar du Danemark ont nommé un ambassadeur aux GAFA[7]. Mesurez la symbolique d’une telle mesure. On place sur le même rang diplomatique un Etat et une entreprise multinationale. Il faut dire que ces nouvelles super-entreprises ne se comportent pas comme une traditionnelle société anonyme. Elles affichent ouvertement de vrais projets politiques et ambitionnent de révolutionner le monde.

Sommes-nous, pour autant, témoins d’une annexion du concept étatique au profit des GAFA ?

La France a ainsi adopté le 11 juillet 2019 sa propre « taxe sur les services numériques », après maintes péripéties et tentions avec les Etats-Unis. Cette taxe a une vocation éphémère. Elle est destinée à disparaître lors de la mise en place d’une taxe internationale au sein de l’Organisation de Coopération et de Développement Economique (OCDE). Suite à la conclusion d’un accord de principe entre 127 états signataires le chantier à l’OCDE s’est mis en branle. Le 18 octobre 2019, les ministres des finances du G20 ont donné le feu vert pour établir cette taxe sur les services numériques à l’échelle mondiale. Ces initiatives permettent de remettre en perspective la puissance des GAFA. Ceux-ci ne peuvent échapper au plus ancien des pouvoirs régaliens : celui de lever l’impôt.

Démocratie, justice et administration : L’IA fige-t-elle le Droit ? Vestige de la version la plus pure de la démocratie athénienne, les jurés des Cours d’assises sont toujours tirés au sort - plus pour longtemps à en croire les « expérimentations » du projet de réforme de la justice présenté par Nicole Belloubet. Ce tirage au sort assure, dans la doctrine athénienne, la plus juste représentation du corps civique. Avec l’amélioration de l’IA se développent des outils dits de « justice prédictive ». Pour le professeur Bruno Dondero, ces outils permettent de « prédire avec le moins d’incertitude possible ce que sera la réponse de la juridiction X quand elle est confrontée au cas Y ». Imaginons maintenant que les juridictions soient équipées de ces outils de justice prédictive, comme en Estonie et aux Etats-Unis[9]. Un juré populaire ira-t-il à l’encontre de l’avis de l’intelligence artificielle ? Cette dernière, en utilisant le Big Data , fournira une prédiction en se basant sur les décisions déjà rendues par ladite juridiction, établissant un argument d’autorité dont le juré ne pourra s’affranchir. Nécessairement, la jurisprudence en deviendra linéaire. Quid des revirements de jurisprudence ? Le Droit est mouvant, conceptuel et ne peut accueillir un raisonnement statistique issu d’une intelligence artificielle de première génération. On peut ainsi penser que les jurys populaires sont voués à disparaître. Un magistrat professionnel sera plus à même de relativiser la place que prendra l’avis de l’IA dans sa décision. Quant aux décisions rendues par une IA seule, leur existence ne peut s’admettre, dans la mesure où l’acte de « juger » est humain, acte éminemment empli de compassion, de sensibilité, qualités propres à l’être humain et qu’une machine ne présente pas.

La même question se pose dans le cadre de l’administration. L’une des notions essentielles applicables aux lignes directrices, circulaires et règlements est qu’au principe, il existe des exceptions. Lors de circonstances exceptionnelles, l’administré peut bénéficier de mesures de faveurs, qui relèvent de l’arbitraire - un arbitraire positif cette fois-ci - de l’administrateur. De la même façon, ces mesures de faveurs nécessitent l’expression d’une empathie.

Encore une fois, relativisons le rôle joué par l’intelligence artificielle dans un tel scénario. Les outils de justice prédictive ne présentent en rien les caractères d’une IA, mais simplement ceux d’une analyse statistique. Tout au plus, l’IA est utilisée pour traiter la masse de données issues des jugements rendues par les juridictions inférieures. De plus, ce serait se bander les yeux que de croire que les juges ne sont pas déjà influencés par le principe du précédent. Plus qu’un principe issu du Common law, il est surtout une réalité pratique qui pèse dans la décision du juge. Un outil de justice prédictive n’est finalement qu’une compilation des précédents existants et n’entrave en rien l’évolution, naturelle, du droit.

Le progrès comme moteur de l’histoire : L’IA peut-elle améliorer la démocratie ? C’est une conception schumpetérienne du progrès que nous retiendrons ici. En effet, pour Schumpeter, l’innovation fait œuvre de « destruction créatrice », rendant obsolète les technologies précédentes et instaure un nouvel équilibre du cycle économique, plus riche et améliorant la qualité de vie de chacun. Prenons l’invention de la machine à vapeur dans la première moitié du XVIIIème siècle. Celle-ci initie la révolution industrielle de la seconde moitié du XVIIIème siècle, entraînant une chute des coûts de production. Conséquence majeure de cette invention, elle rend obsolète l’exploitation d’esclaves qui, compétitivement, sont supplantés par la machine à vapeur. Ainsi, dans le même temps que la révolution industrielle, naissent les premiers mouvements abolitionnistes qui, après maintes tentatives, déboucheront en 1848, sous l’impulsion de Victor Schoelcher, sur l’abolition définitive de l’esclavage.

L’IA, corps d’une première révolution numérique, peut-elle faire progresser la démocratie sur le même modèle ? Les peurs et espoirs concentrés dans l’intelligence artificielle s’accordent à dire que les emplois répétitifs, qu’ils soient manuels ou intellectuels, seront supprimés et remplacés par l’IA. Si certains déplorent la perte d’emploi massive engendrée, d’autres saluent la fin des tâches déshumanisantes et croient en la capacité de la société à créer une place pour ces nouveaux chômeurs. L’adaptation et la créativité sont des qualités proprement humaines qu’aucune machine intelligente ne pourra égaler avant la singularité.

II. La démocratie à l’ère de la seconde révolution numérique : vers la nécessité de construire une réflexion politique et philosophique

La seconde révolution numérique qui se profile à l’horizon posera un nouvel ensemble de questions sur le plan politique. Des concepts fondateurs - de notre société cette fois - seront bouleversés. Comment envisager une démocratie où le travail n’a plus de valeur ? Comment accueillir dans une démocratie une nouvelle forme d’intelligence ? Celle-ci a-t-elle accès au droit de vote ?

Enjeux et formes : Qu’est-ce que la singularité ? Il s’agit de l’instant temporel où l’IA égalera l’intelligence humaine. Il faut tout d’abord mesurer l’ampleur de la prouesse. D’une complexité insoupçonnée, il faudra encore de nombreuses années à la science pour comprendre le fonctionnement de notre cerveau. De là à le reproduire…c’est encore un pas scientifique. Mais pour certains, à l’image de Raymond Kurzweil, directeur de l’ingénierie chez Google, cette singularité adviendrait au cours du siècle, estimation fondée sur sa loi des retours accélérés selon laquelle l’innovation progressait exponentiellement à chaque découverte. En effet, il est certainement plus aisé de mettre au point une IA forte (aussi intelligente que l’homme) si les scientifiques sont secondés par une IA faible (issue de la première révolution numérique).

Cette IA forte pourrait prendre plusieurs formes. Conçue par d’autres IA, elle serait probablement sui generis, fonctionnant sur un mode de raisonnement qui nous est étranger et que nous ne comprendrions pas. Cependant, la possibilité qu’une IA anthropomorphe, qui imite le cerveau humain, atteigne une intelligence générale semble plus prometteuse. Murray Shanahan[10] dresse un tableau dans son ouvrage La singularité technologique des différents moyens possibles pour réaliser une imitation numérique du cerveau. Il indique qu’il faudrait d’abord améliorer les moyens scientifiques de cartographie neuronale, mais qu’il est déjà possible de simuler l’activité d’un neurone, qui n’est en réalité que le vecteur d’un courant électrique tout-ou-rien, ressemblant étonnamment à un calcul informatique binaire. Si le nombre d’opérations à la seconde dans le cerveau pose toujours difficulté, la science devrait s’affranchir de cette limite, plusieurs candidats à la résolution du problème étant déjà identifiés. Murray Shanahan nous montre aussi, et surtout, qu’à partir du moment où une IA de niveau humain est construite, il suffira d’accélérer celle-ci pour créer la supra-intelligence.

La supra-intelligence ne relève pas de la divination mais de la temporalité. La question n’est pas de savoir si mais quand. A ce titre, il nous appartient de réfléchir sur ses conséquences et d’imaginer dès maintenant un monde dans lequel humain et intelligence artificielle forte peuvent coexister. Il faut dire que les enjeux d’une telle singularité sont terribles et merveilleux en même temps. Une « mauvaise » IA, ou tout simplement une IA mal programmée, pourrait mener à la fin de l’humanité. En dehors du risque militaire, Murray Shanahan prend l’exemple dans son livre d’une IA forte à laquelle on demanderait de maximiser la production de trombones d’une entreprise. Le meilleur moyen d’arriver à cet objectif serait de s’approprier l’ensemble des ressources terrestres de fer. Pour cela, l’IA serait tentée de déclencher des guerres mondiales afin de prendre possession des mines de fer. Il n’est pas certain que renverser l’ensemble des gouvernements humains soit possible mais, si ça l’est, l’IA trouvera le moyen de le faire dans le but, stérile, de maximiser sa production de trombone. De ce fait, l’intelligence artificielle de demain doit être capable d’intégrer les enjeux globaux de ses actions. La fin ne justifie pas les moyens et, à ce titre, l’IA doit être capable d’évaluer les moyens qui s’offrent à elle et de choisir le plus adéquat. D’autres penseurs, comme Peter Diamandi, sont convaincus qu’une intelligence artificielle forte pourrait mettre fin à la maladie et la pauvreté dans le monde, ouvrant une ère d’abondance et de prospérité pour l’humanité. A ce titre, Alphabet, société mère de Google, a développé une filiale « Calico » destinée à vaincre la mort. Folie, rêve ou marketing ? Nous limiterons nos développements à l’impact politique de la singularité.

La fin du travail, quelles conséquences politiques ? Certains défendent encore le caractère unique de l’Homme, à travers ses qualités d’adaptation et de créativité. Ainsi, l’invention et l’art seraient des spécialités humaines. Si l’art fait exception à la règle, il est probable qu’une IA forte - par définition plus intelligente que l’homme - puisse supplanter les emplois humains, même ceux les plus intellectuels. Quelles conséquences politiques emporterait la fin du travail pour l’humanité ?

Elle pourrait tout d’abord rapprocher notre régime politique d’un modèle communiste. Communauté des biens, abondance économique, travail de la machine, société prospère et égalitaire… Cette utopie nous anime tous et devient envisageable sous le règne des IA fortes. Mais dans un tel régime, comme le montre Tocqueville, la « passion pour l’égalité » et le confort matériel pourraient pousser davantage les individus à se désintéresser de la chose publique.

A cette hypothèse de déchéance de la démocratie, il faut opposer l’hypothèse d’une ouverture à la démocratie sous sa forme la plus pure. Dans une société où l’Homme ne travaille pas, un revenu universel pourrait être versé à tout citoyen qui s’engage dans la vie politique, sur le modèle du misthos athénien. A l’apogée d’Athènes, au VIIème siècle avant JC, les citoyens étaient récompensés financièrement pour leurs engagements politiques. Ainsi, siéger à l’Ecclésia ou juger à la Boulè ouvrait droit à un misthos, compensation financière. Dans le système démocratique athénien, ce misthos permettait aux plus pauvres de s’intéresser aux affaires politiques et permettait d’avoir une représentation dans les assemblés plus fidèle du peuple de la cité. Pourquoi ne pas imaginer un système similaire suite à la singularité ? Même si nos Etats sont beaucoup plus grands qu’une Cité, les moyens de communication à l’ère du numérique permettront de pallier l’écart spatial entre les citoyens. Avec une assemblée de 65 millions de citoyens ou de 7 milliards d’Hommes, l’Homme serait réellement un « animal politique »[11].

La démocratie et l’IA forte : Les IA peuvent-elles bénéficier d’un droit de vote ? Instinctivement la question est choquante. Comment, et surtout pourquoi, donner un droit de vote à une machine ? Souvenons-nous que suite à la singularité, les IA afficheront une intelligence supérieure à la nôtre. Elles présenteront également un comportement similaire au nôtre. Ajoutons que cette intelligence artificielle sera totalement autonome, capable de prendre consciemment des décisions ayant un réel impact sur l’environnement qui l’entoure. Il devient alors pleinement envisageable de confier un droit de vote à une autre intelligence. Conférez le statut de personne, puis de citoyen, à une IA représenterait un tournant dans l’histoire de l’humanité. Ce serait admettre que nous ne sommes pas la seule intelligence dans l’univers.

Cependant, conférer le droit de vote à une IA pose une série de problèmes qui rend l’évènement peu probable. Les IA, comme tout programme informatique, peuvent se dupliquer, se scinder et fusionner. Comment comptabiliser les voix d’une IA capable de se dupliquer 1000 fois à l’occasion du vote et de supprimer les 1000 copies, une fois l’élection ou le référendum passé ? Cette IA est-elle réellement indépendante et libre ? Supprimer une IA, est-ce tuer un citoyen ? Dans ces conditions, l’accueil des IA dans le démos civique semble impossible.

IA forte et humanité : une cohabitation possible ? Cette cohabitation semble être dans notre plus grand intérêt. Néanmoins, si celle-ci n’est pas simple et innée, différentes hypothèses permettent de l’envisager.

Réflexe très français, la première hypothèse d’intégration de l’IA dans la société humaine consisterait à réguler l’activité de ces IA fortes. La régulation pourrait être atteinte à travers deux outils, la normativité interne ou la normativité externe. Très populaire dans le domaine de l’intelligence artificielle, l’éthique est invoquée comme moyen de contrôle interne du comportement des IA. Interne car les règles d’éthique sont formulées par ses destinataires. La normativité de cette soft law est encore discutée. Les GAFA ont ainsi conclu un accord , le 28 septembre 2016, ayant pour objet d’instaurer de « bonnes pratiques » dans le domaine de l’intelligence artificielle[12]. L’éthique permet ainsi de contraindre les développeurs d’IA dans leur conception du produit. Mais, avec les IA fortes, leurs comportements ne peuvent être entièrement contrôlés par leur développeur une fois mises en service. La solution serait de codifier ces normes éthiques directement dans l’ADN de l’IA, qui agiraient comme des barrières morales à ne pas dépasser pour l’IA. Cependant, coder de telles barrières morales présente une infinie complexité, les interprétations de chaque concept moral pouvant être multiples. Par exemple, si l’on fixe à une IA l’objectif de pourvoir au bonheur humain, comment interpréter ce bonheur ? Depuis les Grecs, cette question déchire les philosophes. Complexe, oui, mais pas impossible. Il reste que cette normativité éthique intégrée à l’IA semble être notre plus grande chance de vie commune.

La normativité externe, au niveau étatique, est peut-être moins prometteuse. En effet, si tous les pays ne s’alignent pas sur les limites à fixer à l’IA, l’IA ayant le moins d’entrave sera la plus performante. C’est pourquoi les initiatives au niveau mondial sont à encourager. Dans ce mouvement-là, l’OCDE a annoncé le 22 mai 2019 l’adoption de dix principes « pour une intelligence artificielle, robuste, sûre et équitable ». 42 pays ont adhéré à ces principes intergouvernementaux. Il faut relever que la Chine ne figure pas parmi ces 42 pays. La consécration du principe de précaution au niveau mondial serait également une arme juridique déterminante dans la croisade pour accueillir un monde artificiel dans celui de l’humain.

La première hypothèse viable permettant l’avènement d’un vivre-ensemble entre l’homme et la machine consisterait à limiter la machine dans ses performances, de lui interdire certaines actions. Seconde hypothèse, à l’inverse, pour atteindre une égalité de l’Homme et de l’IA, certains chercheurs recommandent d’« augmenter », d’améliorer l’humain, à l’instar d’Elon Musk qui recommande de connecter le cerveau humain à des supercalculateurs. A travers son projet Neuralink, Elon Musk n’ambitionne rien de moins que de fusionner l’Homme et la machine, afin de rester compétitif face à l’IA. Cette symbiose permettrait de mettre l’Homme et l’IA sur un pied d’égalité dans une société renouvelée.

Il demeure que la cohabitation de l’Homme et de l’intelligence artificielle n’est pas chose aisée. Rien n’est moins certain que la survie de la démocratie dans un tel contexte. Rappelons-nous les enseignements d’Aristote, qui considère qu’il n’existe pas de meilleurs régimes politiques. A chaque temps, à chaque lieu son régime politique. Dans une société qui sera complètement bouleversée par la singularité et par l’avènement des IA fortes, où le travail, le vote et même la condition humaine n’auront plus le même sens , il est probable que la démocratie en son expression actuelle ne trouvera pas sa place. Il est ainsi essentiel de construire une réflexion politique dès à présent, où chacun doit apporter une contribution dans le débat mondialisé naissant. « If not me, who ? If not now, when ? »[13].

[1] Daily Mail, 27 janvier 2016

[2] « L’IA va-t-elle aussi tuer la démocratie », Jean-François Copé et Laurent Alexandre

[3] Professeure en Droit privé à l’université de Nice

[4] 1984, George Orwell

[5] FranceInfo, le 28 mars 2018, « « Sans Cambridge Analytica, il n’y aurait pas eu de Brexit »affirme le lanceur d’alerte Christopher Wylie »

[6] Le Monde, le 21 mars 2018, « Quelle a été l’importance réelle de Cambridge Analytica dans la campagne de Trump ? »

[7] Casper Klynge a été nommé ambassadeur aux GAFA en août 2017 par le Danemark

[8] Le Monde, le 29 janvier 2019, « Vers un accord mondial pour mieux taxer Google, Amazon, Facebook et Apple ? »

[9] Le Figaro, le 01 avril 2019, « En Estonie, une intelligence artificielle va rendre des décisions de justice »

[10] Professeur en robotique cognitive à l’Imperial College London

[11] La politique, Aristote.

[12] « Partnership on Artificial Intelligence to benefit people and the society » GAFA, 28 septembre 2016