Les IAs

À l'occasion d'un extrait du dernier livre d'Eric Sadin (1), la question de l'IA et de sa vraie nouveauté se pose. 

Les 3 effets pervers

On passera d'abord sur les 3 grands effets pervers qu'on se doit de dénoncer et qui ressortent de son pouvoir d'illusion, la vraie portée de l'IA "générative", due à sa capacité de manipuler le langage naturel, produisant une (fausse ) impression de présence humaine à l'origine de la fameuse génération. Ce qui entraine l'installation d'un monde simulé qui virtualise encore davantage la nature des informations qu'on manipule. 3 domaines sont concernés: 

1) La relation sentimentale: affectant 20% des utilisateurs, il s'agit de discussions avec un partenaire, sentimentales ou érotiques. Addicitives et attachantes les pratiques en rapport sont hautement toxiques et déceptives. Elles peuvent participer d'une structuration pathologique de la sentimentalité et de la sociabilité de millions de personnes, similaire aux résultats des attaques à la prise massive de drogue qu'on vit dans la passé. 

2) La production de fausses images, paroles ou musiques. À des fins de production de contenus en général, la technique permet de produire à peu de frais, à l'aide d'un interface en langage naturel des illusions de prises d'informations réelles permettant toute forme de chantage, faux témoignages, mais aussi croyances politiques ou informatives variées. Un pan entier de la perception du réel devient manipulable à toutes fins. 

3) L'automatisation sur foi d'interaction simulée. L'interface utilisateur en langage naturel peut être utilisé pour saisir l'information nécessaire à l'activation d'automatismes variés. La richesse de la prise d'information en question et son ambiguïté fondamentale pourra alors être utilisée par la bande pour des prises de décision à l'insu des utilisateurs en utilisant leurs caractéristiques personnelles exprimées dans leurs discours. 

Les trois effets non voulus d'une généralisation de l'usage des techniques en question sont clairement inquiétants et se situent à la frontière d'usages "pratiques" de cette technique. 

Mais la thèse d'Eric Sadin concernant les méfaits de l'IA est bien plus globale et plus fondamentale, bien qu'on puisse la relier aux trois points concrets exposés ici. 

Un pouvoir global

En gros, et la chose est complexe, un pouvoir global invisible se met en place, qui remet en question la relation à la vérité de l'ensemble de la société ou plus exactement les processus d'accès à la vérité mis en oeuvre par la société. Cette remise en question conduit à une remise en question de ce que nous appellons la démocratie et à l'instauration d'un système nouveau de domination politique. Rien que ça.

La chose ici dénoncée ressemble étrangement à ce nouvel être infiniment plus intelligent que nous qui va acquérir une conscience au-delà de la nôtre. D'une certaine manière, elle l'est, mais avec une autre acceptation, en fait en ligne avec les images de la domination de la technique élaborées au XXème siècle par Ellul et les autres. 

Le Covid et la Science

Une manière d'appréhender le problème est de réfléchir aux pratiques et obligations mises en oeuvre à l'occasion de la crise du Covid, quand le rapport politique à la vérité fut mis en cause gravement et dont les effets, soyez en sûr, n'ont pas fini de se faire sentir. 

En gros y fut proclamé une conception de la science en général radicalement nouvelle et en désaccord fondamental avec tout ce que la culture avait pourtant proclamé depuis l'aube de la modernité. Soi-disant en charge d'une vérité validée de manière certaine, qui plus est par un processus d'évaluation "par les pairs", la science se doit d'être respectée comme valide et comme "méthode", tout ce qui s'en écarte étant coupable et se devant d'être dénoncé, voire interdit. 

Assis sur ces considérations, un pouvoir politique est ainsi fondé à imposer par des décisions unilatérales non discutées par quiconque, un changement radical des modes de vie des administrés condamnés pénalement si réluctants à y obéir. Un régime de vérité, une politique, quelle plus magnifique démonstration des concepts abstraits de la philosophie sociale et politique ! 

Pourtant la science en général n'est absolument pas ce qui a dit plus haut. Il s'agit en fait d'un processus conflictuel d'accès à des vérités provisoires enchevêtrées, perpétuellement remises en cause et hautement dépendantes des modes intellectuelles, des rapports de pouvoir entre commanditaires et de processus d'élaboration hautement variables, tous différents et surtout complètement dépendants des domaines de connaissance abordés. 

Le coté relatif et conflictuel des connaissances élaborées et réélaborées en permanence constituent un régime de vérité, étrangement originaire de l'époque où fut séparée les notions de vérité humaines et divines et où, sur fond des terribles guerres de religion, furent élaborés des systèmes politiques pluralistes à l'origine de nos démocraties actuelles. 

L'idée de base pour ces constructions culturelles, sociales puis politiques est que la vérité est construite collectivement puis soumise aux interactions à l'intérieur d'une collectivité et non plus édictée centralement. 

Le scientisme est à la science ce que le communisme est à la politique: la soumission d'une collectivité en interaction pour déterminer les bonnes décisions, à un impérium décidé par certains sur la base de l'édiction d'une vérité considérée absolue, ou de pratiques procédurales respectueuses de certaines vérités elles aussi édictées. 

Et bien nous sommes menacés par cela, en bien pire, et d'une autre manière. 

La gestion du Covid en attribuant le qualificatif de "scientifique" à des pratiques comminatoires de soumission à des pratiques (confinement, port du masque, vaccination généralisée) qui n'étaient aucunement certaines et pour toutes violemment contestées pour des raisons scientifiques avérées. Une fétichisation technocratique du scientifique fut mise en oeuvre en contradiction avec tous les principes de prudence et d'élaboration collective et spécialisées des décisions. 

Il est aujourd'hui établi que le confinement a augmenté les contaminations, que le port du masque a nui grandement aux enfants des écoles, et que la vaccination eut des effets secondaires évitables aux personnes qui n'étaient pas concernées par une maladie dont la contamination n'était pas empêchée par la vaccination. Des décisions majeures d'obligation privative de liberté furent prises au nom de, et en fait en contradiction flagrante avec, la vérité scientifique ! 

Les discours de vérité

D'abord la chose (l'IA)  est technique, et nantie de son attrait "d'utilité" indéniable, elle diffuse des discours de vérité dans le cadre de cette utilisation. Cela suffit à transformer l'activité humaine qui consiste à comparer au niveau de chaque individu des sources d'informations distinctes, en une activité de consultation d'une conclusion déjà mâchée, et considérée véridique. De fait, cela revient dans tous les domaines où cela est appliqué, à abdiquer ce qu'on appelle la "démocratie". Pire, comme la nouvelle source d'information censée rassembler elle-même les différents points de vue possible peut évidemment être manipulée et instrumentalisée, elle devient enjeu de pouvoir et outil de domination. 

Elle émet un discours déjà discuté, éventuellement en faisant référence à des disputes antérieures, mais déjà arbitrées et c'est cela le problème. Car cela correspond directement à l'abdication scientiste de la connaissance comme dynamique et conflictuelle par essence. En cela, le discours de l'IA devient virtuellement un monde simulé, donc déjà maitrisé, ce qui est le contraire exact du réel, lui en incertitude permanente. 

On le voit déjà, et les exemples sont nombreux. Prenons-en un au hasard. Dans ses mémoires Obama parle de Sarkozy en le décrivant par ses origines familiales ( demi hongrois, quart de juif grec) en plus d'une description peu flatteuse de ses prétentions. Questionné, ChatGpt, même après qu'on lui demande la référence à l'allusion familiale refuse de mentionner l'allusion à la judéité et affirme qu'il n'y en a pas. Même réponse de DeepSeek, qui finit par cracher le morceau, mais après qu'on ait insisté. Un autre exemple plus technique est la fourniture de références chiffrées absolument fantaisistes pour des valeurs pourtant normalisées et bien connues de sites de références. 

Tout sujet scabreux ou vaguement ambigu pour n'importe quelle raison est traité ainsi, et avec des affirmations d'autorité étranges. l'AI est un producteur d'information extraordinairement biaisé, et sa mise en position centrale, voire la prétention qu'ont certain de lui voir "remplacer" des productions humaines en fait une source de pollution grave de la cognition.

On se retrouve donc face à une technique à maitriser, et d'abord à maitriser personnellement: l'information produite doit être soigneusement validée. On a déjà des exemples de rapports produits par des entreprises de conseil en temps record qui contiennent des absurdités inquiétantes. l'AI pollue, et pas que l'air ambiant. Mais c'est si pratique, si souvent...  

LES IAs

Tout poison ayant son contre poison qui lui ressemble étrangement, il se trouve que l'IA qui comme expliquée se substitue à la démocratie en éliminant les procédures compétitives associées aux humains pourrait être contrôlée par d'autres IAs. 

L'idée, que n'importe qui peut mettre en oeuvre en vérifiant avec Deepseek  ce qu'affirme parfois à tort Chatgpt, consiste à disposer d'informations vérifiables automatiquement par une diversité d'outils. Les IAs sont concurrentes commercialement et doivent pouvoir se critiquer les unes les autres. 

On se retrouve alors avec  un monde qui est redevenu plural, et le terme "La IA" chosifiant un être mythique qui évidement n'existe pas et n'a jamais existé, est impropre: il convient de disposer d'outils établissant et encodant nos problèmes d'humains dans des dossiers susceptibles d'être vérifiés par d'AUTRES outils, conçus indépendamment et capable de détecter erreurs, malfaçons, tromperies et autres biais. 

Bref, il s'agit bien d'introduire  une post vérité, mais contrôlée et cela de manière multiple. L'essentiel est de déposséder "l'ordinateur" de son unicité totalitaire et de proclamer et d'affirmer la nécessaire essentielle disparité conflictuelle de l'information. Evidemment, ces contrôles doivent être technicisés et non pas assumés par d'autres autorités concurrentes prétendant à leur tour à l'universalité !  En cela, l'objectivité technique bêbète d'un artefact logiciel pourrait être, enfin, un outil de libération. 

Que voilà un bel optimisme. Aïe ! Ca pique. 

 

 

 

(1) Eric Sadin : https://legrandcontinent.eu/fr/2025/10/03/pouvoir-total-lia-et-la-fin-de-limagination/