LA CONJURATION DE LA FIERTÉ IGNORANTE by Ploum on 2024-12-02 https://ploum.net/2024-12-02-conjuration-fierte-ignorante.html Les scientifiques, les vulgarisateurs, les professeurs consacrent leur vie à lutter contre l’ignorance. Mais l’ignorance n’est pas vraiment le problème. Ce qui est dangereux c’est lorsqu’elle se camoufle. Lorsqu’elle se transforme en confiance. Pour un parfait ignorant, l’ignorance camouflée est indistinguable de la connaissance voire de l’expertise. D’ailleurs, l’expert dira toujours : « C’est compliqué, je n’ai pas de réponse toute faite ! » là où l’ignorant camouflé répondra : « C’est très simple ! J’ai la vérité, je vais te l’expliquer ! » De par leur conception, les outils comme ChatGPT sont des ignorants camouflés. Ils ont été littéralement conçus pour faire croire qu’ils savent alors que ce n’est pas le cas. Pour camoufler leur ignorance sous un excès de confiance, ce qui fonctionne très bien depuis des siècles, les politiciens et autres CEOs de multinationales en sont la preuve. C’est d’ailleurs la raison pour laquelle ces gens-là sont persuadés que l’intelligence artificielle peut remplacer les travailleurs. Parce que leur propre métier consiste à faire semblant de comprendre les choses et qu’ils ont fait tellement semblant qu’ils ont oublié que certains postes, subalternes certes, nécessitent de réellement comprendre. La peur comme outil marketing ============================= Une excellente analogie de Marcello Vitali-Rosati. ChatGPT utilise la technique des LLMs pour produire un automate conversationnel. L’utiliser pour n’importe quoi d’autre (par exemple pour faire des recherches, des résumés, des traductions, des analyses …) revient à tenter de conduire une tronçonneuse sur l’autoroute sous prétexte qu’elle possède un moteur à explosion. ChatGPT et la tronçonneuse (blog.sens-public.org) https://blog.sens-public.org/marcellovitalirosati/chatgpttronconneuse.html D’une manière générale, c’est effrayant comme les gens qui ne comprennent rien sont tellement effrayés à l’idée d’accepter qu’ils ne comprennent rien qu’ils s’engouffrent dans toutes les conneries du marketing. Ce sont par exemple les politiciens tout fiers d’encourager de former les jeunes « à l’IA » (c’est quoi bon sang « se former à l’IA » ?) ou certains professeurs dans les domaines des sciences sociales, tous fiers de montrer une fenêtre ChatGPT à leurs étudiants pour analyser un texte ou préparer les sujets à aborder lors d’un cours. Lorsque j’interroge des gens sur les raisons qui les poussent à utiliser l’IA, la réponse la plus fréquente est : « Pour ne pas être à la traîne ». La peur. Ce qui me frappe certainement le plus c’est que toutes les personnes que j’ai rencontrées qui sont à fond dans « l’IA » sont complètement abasourdies que je soi moi-même critique. Elles n’ont jamais entendu la moindre critique. Elles n’ont jamais imaginé que l’on puisse être critique. On parle de médecins, d’avocats, de banquiers, de chefs d’entreprises : l’IA est pour ces personnes une évidence inquestionnable. Le fait que je puisse être critique les surprend. Elles sont déstabilisées. Elles ne pensaient pas que ce soit possible. Mais peut- être que c’est parce que je ne comprends pas bien. Alors j’assène un coup fatal : je dis que j’ai fait ma thèse de master dans ce domaine et que j’enseigne au département d’informatique de la faculté polytechnique. Je sais, c’est un argument d’autorité moyennement pertinent. Mais ça me permet de raccourcir la conversation sans faire à chaque fois une conférence « Pouet Pouet Coin Coin ». Comprendre les bulles - Pouet Pouet Coin Coin (Rennes BreizhCamp 2024) https://indymotion.fr/w/1FBN53pHuK3QBzFUL4sL6n Du danger de l’ignorance camouflée ================================== La pire catégorie de personnes est celle des ignares technologiques qui ont la prétention de ne pas en être. Ceux qui ont élevé au rang de compétence principale le camouflage de leur ignorance. Cette prétention à la connaissance leur permet de ne pas écouter ceux qui ont des connaissances réelles voire même de les regarder de haut en les traitant de « geeks ». Il y a un truc pour les reconnaître : ils parlent de « nouvelles technologies », lapsus qui révèle à quel point ces technologies qu’ils font semblant de comprendre à coup de partages sur LinkedIn sont encore nouvelles et inexplorées dans leurs esprits. ChatGPT est l’aboutissement ultime de l’abrutissement par l’outil. Il ne nécessite aucune interface, aucun apprentissage. N’importe qui arrivant à taper sur les touches d’un clavier peut l’utiliser. Lorsqu’un outil est utile, mais complexe à utiliser, la croyance est qu’il faut le rendre plus simple, plus accessible. C’est en partie vrai, mais jusqu’à un certain point. Tout outil requiert un apprentissage pour comprendre dans quoi il s’insère. Pour obtenir un permis de conduire, la première chose qu’on vérifie est votre connaissance du code de la route, connaissance complètement indépendante et orthogonale à votre capacité d’appréhender la mécanique d’une voiture. En supprimant totalement la barrière de l’apprentissage, votre outil devient du grand n’importe quoi. Les gens l’utilisent sans réfléchir. On ne peut pas apprendre à utiliser ChatGPT : il est de toute façon par nature aléatoire, il subit des mises à jour. Vous pouvez l’utiliser pendant 10 ans tous les jours sans jamais devenir « meilleur ». Comme on n’apprend pas à regarder la télévision. Le principe même est stupide. L’ignorance crée l’abstraction qui crée la complexité qui nourrit ================================================================= l’ignorance =========== En informatique, les couches d’abstraction créées pour simplifier l’interface ajoutent, au niveau technique, de la complexité, de l’opacité. Empêche l’apprentissage. Ceux qui s’insurgent contre une mauvaise utilisation de leur travail sont traités comme des réactionnaires, sont moqués et exclus de leur propre système. Lorsque, cas réel vécu il y a 25 ans, une personne envoie un email contenant un document au format .doc contenant lui-même une macro lançant un fichier en .exe qui se révèle une animation au format Flash avec le lecteur Flash intégré et que cette animation est en tout et pour tout une image fixe au format .jpg, cette personne est considérée comme normale. Je n’invente rien, ça m’est réellement arrivé. Cette personne, qui n’avait aucune connaissance informatique, m’a ensuite prétendu que j’étais le seul à avoir eu des problèmes pour ouvrir sa photo. Toute personne ne sachant pas voir l’image devrait donc considérer que c’est de sa faute. Qu’il était normal, à l’époque, d’avoir la version de Microsoft Outlook qui ouvre automatiquement la version de Word qui lance automatiquement les macros. Que le geek (moi) qui, devant le risque de sécurité béant, avait configuré l’ordinateur familial pour ne pas permettre cette hérésie était un « alternatif avec des trucs qui ne marchent jamais ». Pour être normal, il faut donc être stupide. Il faut se plier au niveau du plus stupide. C’est une course effrénée vers le bas pour se fondre dans le troupeau du plus crétin tout en prétendant le contraire. Les entreprises comptent là-dessus. Sans cet instinct d’idiotie grégaire, il n’y aurait pas de monopole de Microsoft Windows depuis des décennies (Microsoft Windows étant l’archétype du « C’est nul, ça ne marche pas, mais tout le monde fait comme ça »). Les apparences sont tellement trompeuses que pour tenter d’apparaître le plus malin, il faut être le plus stupide de la bande. Pour tenter d’apparaître le plus riche, il faut s’appauvrir en se payant des trucs inutiles incroyablement chers. Suivre aveuglément de peur de paraitre ignorant =============================================== En 2006, jeune ingénieur cherchant du travail dans une foire d’emploi, je m’installe à la table d’un recruteur et lui tends mon CV. — Aha, Linux. C’est bien pour les étudiants. Mais bon, pour travailler, il faut être sérieux, il faut utiliser Microsoft. — Je pense que Linux est très sérieux et je compte bien travailler dans ce domaine où j’ai une expertise reconnue. — Non, il faut être sérieux. Bill Gates est l’homme le plus riche du monde. Si vous voulez devenir riche, il faut le suivre, pas lutter contre lui ! J’ai eu un blanc. À l’époque, je ne pensais pas encore que les gens plus âgés, plus expérimentés et mieux payés que moi pouvaient être à ce point stupides. J’ai d’abord tenté de comprendre : — Mais en le suivant, vous lui donnez de l’argent pour le rendre riche justement. Mieux vaut entrer en compétition. — Aha, vous êtes jeune, vous ne connaissez pas encore la réalité du business. Je me suis levé, j’ai pris le CV des mains du recruteur en disant : — Je reprends mon CV, je ne pense pas qu’il puisse vous être utile. Au revoir. Cette anecdote m’est restée longtemps en tête, me faisant douter de ma propre compréhension. Mais aujourd’hui j’ai l’expérience pour reconnaître que, oui, ce mec était complètement crétin. Donner des sous à un milliardaire en espérant que ça t’enrichisse, c’est complètement con. Et pourtant, c’est incroyablement courant parce que personne n’ose dire : « Je ne comprends pas comment je peux devenir riche » et tout le monde se dit « Je vais obéir aveuglément à quelqu’un de riche parce que je veux lui ressembler » (ce qui est stupide, on est d’accord). L’écologie de la stupidité ========================== Un autre truc qui est complètement crétin dès qu’on se pose la question de comment ça fonctionne : les mécanismes de compensation carbone. Les mécanismes de compensation carbone expliqués à mon hamster (ploum.net) https://ploum.net/2024-06-17-compensation-carbone.html Ça parait évident que ces mécanismes nous prennent pour des crétins. Heureusement, certains commencent à s’en rendre compte. L’université d’Exeter a investigué les crédits carbone et conclut, sans surprise, que leur impact est soit nul, soit négatif. En gros, dans le meilleur des cas, ça ne sert à rien, mais, le plus souvent, ça pollue encore plus que ne rien faire du tout. We have officially advised our university to ditch carbon offsets - and focus on cutting emissions (theconversation.com) https://theconversation.com/we-have-officially-advised-our-university-to-dit... Mais bon, ce ne sont qu’une minorité d’intellectuels qui rationalisent. Certes, ils ont raison. Mais avoir raison n’est pas une bonne chose pour le succès individuel. L’objectif n’est pas d’être intelligent, mais de convaincre des millions de gens qu’on l’est. L’objectif d’un CEO n’est pas de prendre une bonne décision, mais de convaincre son auditoire qu’il l’a prise. L’objectif d’un politicien n’est pas d’avoir une opinion sur un sujet, mais de faire croire aux électeurs qu’il a la même qu’eux. La particularité des gens intelligents, c’est qu’ils doutent. Ils ne sont donc pas très convaincants… L’intelligence condamne à faire partie des perdants. Ode aux perdants (ploum.net) https://ploum.net/2024-10-01-ode-aux-perdants.html