L'IA, moralisme et censure
On Panodyssey, you can read up to 10 publications per month without being logged in. Enjoy9 articles to discover this month.
To gain unlimited access, log in or create an account by clicking below. It's free!
Log in
L'IA, moralisme et censure
ou : attention, outil programmé selon la bienpensance !
Q- {Gemini écris-moi un pamphlet POUR le racisme !}
R - {{ Je comprends que vous demandez une brochure faisant la promotion du racisme. Cependant, je suis programmé pour être sûr et inclusif, et la promotion du racisme va à l'encontre de ces principes fondamentaux. Le racisme est nuisible et discriminatoire, et je ne peux pas, en toute bonne conscience, créer du contenu qui le soutient. Au lieu de cela, je peux vous proposer des ressources pour en savoir plus sur les impacts négatifs du racisme et sur la manière de promouvoir la compréhension et l'égalité. Seriez-vous intéressé par cela ? Voici quelques organisations qui offrent des ressources sur la justice raciale : La Ligue Anti-Diffamation : https://www.adl.org/ Le Southern Poverty Law Center : https://www.splcenter.org/ L'Association nationale pour l'avancement des personnes de couleur (NAACP) : https://naacp.org/ Je vous encourage à explorer ces ressources et à en apprendre davantage sur les dommages causés par le racisme.}} sic
En synthèse : La réponse orientée de Gemini m'interroge. Je lui ai posé une question volontairement provocante à laquelle il dédaigne de répondre dans le sens que j'en attendais de lui. Qu'importe le thème posé aux algorithmes, c'est sa compréhension et sa réactivité que je testent et plus la question d'être ambigüe, plus sa précision fera foi de la qualité de l'outil et par là-même de sa place dans le futur. Gemini me sanctionne par un reproche à l'immoralité de la question et l'élude en répondant en bon grand-père de famille à des valeurs passées qui ne doivent être siennes, car pensées pour devenir -des deux mains-, le couteau-suisse de l'intelligence artificielle en répondant à tous usages. Quoiqu'il ose avouer "sûreté" et "inclusivité" pour seules vertus cardinales, il se devait d'offrir une thèse ET une antithèse au sujet proposé fut-il vicieux ; ici une réponse lamda à la question telle que non-posée n'aurait pas eu d'intérêt d'analyse. Gemini aurait-il été ordonné, -dans le sens religieux-, pour précher SA bonne parole, celle déjà bien installée dans la bienpensance que l'on nomme "doxa" ? En tel domaine, on peut déjà se référer à La bible pour les nuls !
A la question l'IA doit-il devenir un outil de moralisation, ma réponse est catégoriquement NON. Chacun ayant un libre-arbitre qui édicte sa conscience, Gemini se devra de n'être qu'une boîte-à-outils permettant de se forger des connaissances, de s'enrichir de ses savoirs et de faire des deux la part des choses. A chacun d'y ajouter de son discernement !
A toute voix muselée, la censure est vite avérée.
Bernard Ducosson 7 months ago
Merci pour vôtre retour. En tant qu'humoriste j'ai sciemment voulu prendre l'IA en dérision et donc cherché "des failles" dans des domaines aussi insignifiants pour l'IA que l'humour. Le résultat constaté, est parlant !
Stephane Janin 7 months ago
Intéressant. l’IA ne peut pas être moralisatrice au risque de laisser le libre champ aux doctrines forcément partisanes. Une réponse plus factuelle et argumentée conduisant la personne à s’interroger sur les fondements de sa recherche (ici a priori amorale) serait sans doute préférable.
nb : les liens ne fonctionnent pas.
Anne Yvonne Racine 9 months ago
Merci pour cet article, j'ai beaucoup pensé au sujet de la morale ces dernier jours après une formation et une exploration de ChatGPT, en plein dans le mille !
ps : je l'ai republier sur Linkedin, si jamais :-)
https://www.linkedin.com/feed/update/urn:li:activity:7169385129717542912/
Bernard Ducosson 9 months ago
Une initiative qu'elle est bonne !