Lien vers l'article original

Paul Nemitz est conseiller principal auprès de la direction générale de la justice de la Commission européenne et professeur de droit au Collège d'Europe. Considéré comme l'un des experts européens les plus respectés en matière de liberté numérique, il a dirigé les travaux sur le règlement général sur la protection des données. Il est également l'auteur, avec Matthias Pfeffer, de The Human imperative : power, freedom and democracy in the Age of Artificial Intelligence, un essai sur l'impact des nouvelles technologies sur les libertés individuelles et la société en général. 

Voxeurop : Diriez-vous que l'intelligence artificielle (IA) est une opportunité ou une menace pour la démocratie, et pourquoi ? 

Paul Nemitz : Je dirais que l'une des principales missions de la démocratie au XXIème siècle est de contrôler le pouvoir technologique. Ce principe s'applique certainement également à l'IA. Nous avons une longue histoire de contrôle de la recherche, par exemple sur les agents biologiques dangereux, la génétique ou l'énergie atomique : tout cela a été très encadré. Il n'est donc pas inhabituel que la démocratie se penche sur les nouvelles technologies telles que l'intelligence artificielle, réfléchisse à leur impact et prenne les choses en main. Je pense que c'est une bonne chose. 

Dans quelle direction devrait aller la réglementation de l'intelligence artificielle ? Est-il possible de réglementer l'intelligence artificielle pour le bien commun et, dans l'affirmative, quel serait ce bien commun ?

Paul Nemitz : Tout d'abord, il est question de la primauté de la démocratie sur la technologie et les modèles d'entreprise. Dans une démocratie, ce qui ressemble à l'intérêt commun est décidé exactement par ce processus démocratique. Les parlements et les législateurs décident de la direction que doit prendre l'intérêt commun : la loi est l'acte d'expression le plus noble de la démocratie. 

Elon Musk a tweeté qu'il était nécessaire de procéder à de larges dérégulations. Est-ce là le moyen de protéger les droits individuels et la démocratie ? 

Si nous regardons l'histoire de la réglementation juridique de la technologie, il y a toujours eu une résistance de la part du secteur des affaires. Je ne suis donc pas impressionné si certains hommes d'affaires affirment que la meilleure chose au monde serait de ne pas réglementer par la loi : c'est le rêve des capitalistes et des néolibéraux d'aujourd'hui. Mais la démocratie signifie en fait le contraire : en démocratie, les questions importantes de la société, et l'IA en fait partie, ne peuvent pas être laissées aux entreprises et à leurs réglements communautaires ou à l'autorégulation. 

Êtes-vous optimiste quant au fait que la réglementation par le biais d'un processus démocratique sera suffisamment forte pour freiner les forces de déréglementation des lobbyistes ?

Disons qu'en Amérique, c'est le lobby qui l'emporte. En Europe, nous sommes encore capables de nous mettre d'accord. Bien sûr, le lobby est très fort à Bruxelles et nous devons en parler ouvertement : l'argent que les grandes entreprises technologiques dépensent, la façon dont elles essaient d'influencer non seulement les politiciens, mais aussi les journalistes et les scientifiques. Il existe une culture GAFAM qui consiste à essayer d'influencer l'opinion publique, et dans mon livre, j'ai décrit leur procédés de manière assez détaillée. Ils sont très présents, mais je dirais que notre processus démocratique fonctionne encore parce que nos partis politiques et nos députés ne dépendent pas de l'argent des grandes entreprises technologiques comme le font les parlementaires américains. Je pense que nous pouvons être fiers du fait que notre démocratie est encore capable d'innover, parce que légiférer sur ces problématiques pointues n'est pas qu’une question technologique, c'est vraiment au cœur des questions sociétales.

Selon Evgeny Morozov, c'est l'essor de l'intelligence artificielle générale (IAG), c'est-à-dire une IA qui n'aurait pas besoin d'être programmée et qui pourrait donc avoir un comportement imprévisible, qui inquiète la plupart des experts. Toutefois, des partisans comme le fondateur d'openAI, Sam Altman, estiment qu'elle pourrait donner un coup de fouet à l'économie et "élever l'humanité en augmentant l'abondance". Quelle est votre opinion à ce sujet ?

Il y a beaucoup de fantasmes sur la façon dont la technologie va évoluer, mais je pense que l'important est que les administrations publiques, les parlements et les gouvernements gardent le cap et observent la situation avec beaucoup d'attention. 

Nous avons besoin d'un impératif de vérité de la part de ceux qui développent ces technologies, souvent à huis clos. Nous devons changer de culture, car nous sommes de plus en plus dépendants de ce qu'ils nous disent. Et si les politiques dépendent de ce que les entreprises racontent, nous devons être en mesure de les obliger à dire la vérité. 

Les amendes [infligées aux entreprises fautives, ndlr.] ont-elles un impact ? Même si Facebook se voit infliger une amende d'un milliard de dollars, cela fait-il une différence ? Agit-elle différemment ? Qu'est-ce que cela signifie pour elle en termes d'argent ou d'impact ? Est-ce tout ce que nous pouvons faire ?

Je pense que les amendes ne font pas tout, mais nous vivons dans un monde où il y a une énorme concentration de pouvoir et nous avons besoin d'un contre-pouvoir. L'Amérique sait comment gérer le capitalisme : les gens vont en prison lorsqu'ils créent un cartel, lorsqu'ils se mettent d'accord sur les prix, ce qui n'est pas le cas en Europe. Je pense donc que nous devons apprendre de l'Amérique à cet égard, nous devons être prêts et disposés à appliquer nos lois avec fermeté, parce que la démocratie signifie que des lois sont élaborées et respectées. Et il ne peut y avoir d'exception pour les grandes entreprises technologiques. 

Cela signifie-t-il que nous devrions nous orienter vers une approche plus américaine ?

Cela signifie que nous devons prendre au sérieux l'application de nos lois, ce qui, malheureusement, rend souvent nécessaire le recours à des amendes. Cela dit, ce n'est pas suffisant : nous devons nous rappeler que dans une société démocratique, le contre-pouvoir vient des citoyens et de la société civile. Nous ne pouvons pas laisser les individus se battre seuls pour leurs droits face aux grandes entreprises technologiques. Nous avons besoin d'une mise en vigueur des lois par les pouvoirs publics, et nous devons donner à la société civile les moyens de lutter pour les droits des individus. Ce n'est pas un obstacle à l'innovation, mais cela l'oriente vers l'intérêt public et une légalité moyenne. Je pense que nous sommes tous en faveur de l'innovation, mais cela nuit à notre démocratie si nous permettons à des acteurs influents de perturber et d'enfreindre la loi et de s'en tirer à bon compte. 

Thierry Breton, commissaire européen à l'industrie, a écrit une lettre à Elon Musk pour lui dire que si X continuait à favoriser la désinformation, il pourrait faire l'objet de sanctions de la part de l'UE. Elon Musk a répondu que, dans ce cas, il pourrait quitter l'Europe et que d'autres géants de la technologie pourraient être tentés de faire de même. Quel est donc le rapport de force entre ces deux forces ? 

Je dirais que c'est très simple, je suis une personne très simple à cet égard : on ne peut jamais faire chanter la démocratie. S'ils essaient de nous faire chanter, nous devrions simplement en rire : s'ils veulent partir, ils sont libres de le faire, et je souhaite bonne chance à Elon Musk en bourse s'il quitte l'Europe. Heureusement, nous sommes encore un marché très important et rentable, alors s'il peut se permettre de partir, je lui dirais simplement : au revoir Elon Musk, nous vous souhaitons le meilleur.

Qu'en est-il du danger que représenterait l'utilisation non conventionnelle de l'IA ?

Oui, par "non conventionnelle", on entend une utilisation pour la guerre. Je pense que dans l'intérêt commun du monde, de l'humanité et de la gouvernabilité, nous devons progresser sur les règles d'utilisation de l'IA à des fins militaires. Ces discussions sont difficiles, il faut parfois des années, voire des décennies, pour parvenir à des accords, mais je pense qu'à terme, nous aurons besoin de règles pour les armes autonomes et, dans ce contexte, pour l'IA.

Pour revenir à ce que disait Christopher Wylie, l'approche réglementaire actuelle ne fonctionne pas car elle traite l'intelligence artificielle “comme un service et non pas comme la base sur laquelle devrait être fondée la technologie". Partagez-vous cette opinion ? 

Je pense qu'en matière de droit numérique, nous ne devrions pas tomber dans le discours piégeux de l'industrie des technologies selon lequel "l’absence de loi vaut mieux qu’une mauvaise loi", une mauvaise loi étant une loi qui ne peut pas être parfaitement appliquée. Ma réponse est la suivante : il n'y a pas de loi qui fonctionne parfaitement, et il n'y a pas de loi qui puisse être parfaitement appliquée. Mais ce n'est pas un argument contre l'existence des lois. Et parce que les lois sont des compromis, elles ne sont parfaites ni d'un point de vue scientifique, ni d'un point de vue fonctionnel. Ce sont des créatures de la démocratie. En fin de compte, je dirais qu'il vaudrait mieux que nous nous mettions d'accord sur une loi, même si beaucoup la considèreraient comme imparfaite. 

👉 Regardez la vidéo du Voxeurop Live avec Paul Nemitz ici

Cet article a été produit dans le cadre de la participation de Voxeurop au consortium Creative Room European Alliance (CREA) dirigé par Panodyssey et soutenu par un financement de la Commission européenne.