Les IAs

À l'occasion d'un extrait du dernier livre d'Eric Sadin (1), la question de l'IA et de sa vraie nouveauté se pose. 

 

On passera d'abord sur les 3 grands effets pervers qu'on se doit de dénoncer et qui ressortent de son pouvoir d'illusion, la vraie portée de l'IA "générative", due à sa capacité de manipuler le langage naturel, produisant une (fausse ) impression de présence humaine à l'origine de la fameuse génération. Ce qui entraine l'installation d'un monde simulé qui virtualise encore davantage la nature des informations qu'on manipule. 3 domaines sont concernés: 

1) La relation sentimentale: affectant 20% des utilisateurs, il s'agit de discussions avec un partenaire, sentimentales ou érotiques. Addicitives et attachantes les pratiques en rapport sont hautement toxiques et déceptives. Elles peuvent participer d'une structuration pathologique de la sentimentalité et de la sociabilité de millions de personnes, similaire aux résultats des attaques à la prise massive de drogue qu'on vit dans la passé. 

2) La production de fausses images, paroles ou musiques. À des fins de production de contenus en général, la technique permet de produire à peu de frais, à l'aide d'un interface en langage naturel des illusions de prises d'informations réelles permettant toute forme de chantage, faux témoignages, mais aussi croyances politiques ou informatives variées. Un pan entier de la perception du réel devient manipulable à toutes fins. 

3) L'automatisation sur foi d'interaction simulée. L'interface utilisateur en langage naturel peut être utilisé pour saisir l'information nécessaire à l'activation d'automatismes variés. La richesse de la prise d'information en question et son ambiguïté fondamentale pourra alors être utilisée par la bande pour des prises de décision à l'insu des utilisateurs en utilisant leurs caractéristiques personnelles exprimées dans leurs discours. 

Les trois effets non voulus d'une généralisation de l'usage des techniques en question sont clairement inquiétants et se situent à la frontière d'usages "pratiques" de cette technique. 

Mais la thèse d'Eric Sadin concernant les méfaits de l'IA est bien plus globale et plus fondamentale, bien qu'on puisse la relier aux trois points concrets exposés ici. 

En gros, et la chose est complexe, un pouvoir global invisible se met en place, qui remet en question la relation à la vérité de l'ensemble de la société ou plus exactement les processus d'accès à la vérité mis en oeuvre par la société. Cette remise en question conduit à une remise en question de ce que nous appellons la démocratie et à l'instauration d'un système nouveau de domination politique. Rien que ça.

La chose ici dénoncée ressemble étrangement à ce nouvel être infiniment plus intelligent que nous qui va acquérir une conscience au-delà de la nôtre. D'une certaine manière, elle l'est, mais avec une autre acceptation, en fait en ligne avec les images de la domination de la technique élaborées au XXème siècle par Ellul et les autres. 

Une manière d'appréhender le problème est de réfléchir aux pratiques et obligations mises en oeuvre à l'occasion de la crise du Covid, quand le rapport politique à la vérité fut mis en cause gravement et dont les effets, soyez en sûr, n'ont pas fini de se faire sentir. 

En gros y fut proclamé une conception de la science en général radicalement nouvelle et en désaccord fondamental avec tout ce que la culture avait pourtant proclamé depuis l'aube de la modernité. Soi-disant en charge d'une vérité validée de manière certaine, qui plus est par un processus d'évaluation "par les pairs", la science se doit d'être respectée comme valide et comme "méthode", tout ce qui s'en écarte étant coupable et se devant d'être dénoncé, voire interdit. 

Assis sur ces considérations, un pouvoir politique est ainsi fondé à imposer par des décisions unilatérales non discutées par quiconque, un changement radical des modes de vie des administrés condamnés pénalement si réluctants à y obéir. Un régime de vérité, une politique, quelle plus magnifique démonstration des concepts abstraits de la philosophie sociale et politique ! 

Pourtant la science en général n'est absolument pas ce qui a dit plus haut. Il s'agit en fait d'un processus conflictuel d'accès à des vérités provisoires enchevêtrées, perpétuellement remises en cause et hautement dépendantes des modes intellectuelles, des rapports de pouvoir entre commanditaires et de processus d'élaboration hautement variables, tous différents et surtout complètement dépendants des domaines de connaissance abordés. 

Le coté relatif et conflictuel des connaissances élaborées et réélaborées en permanence constituent un régime de vérité, étrangement originaire de l'époque où fut séparée les notions de vérité humaines et divines et où, sur fond des terribles guerres de religion, furent élaborés des systèmes politiques pluralistes à l'origine de nos démocraties actuelles. 

L'idée de base pour ces constructions culturelles, sociales puis politiques est que la vérité est construite collectivement puis soumise aux interactions à l'intérieur d'une collectivité et non plus édictée centralement. 

Le scientisme est à la science ce que le communisme est à la politique: la soumission d'une collectivité en interaction pour déterminer les bonnes décisions, à un impérium décidé par certains sur la base de l'édiction d'une vérité considérée absolue, ou de pratiques procédurales respectueuses de certaines vérités elles aussi édictées. 

Et bien nous sommes menacés par cela, en bien pire, et d'une autre manière. 

La gestion du Covid en attribuant le qualificatif de "scientifique" à des pratiques comminatoires de soumission à des pratiques (confinement, port du masque, vaccination généralisée) qui n'étaient aucunement certaines et pour toutes violemment contestées pour des raisons scientifiques avérées. Une fétichisation technocratique du scientifique fut mise en oeuvre en contradiction avec tous les principes de prudence et d'élaboration collective et spécialisées des décisions. 

Il est aujourd'hui établi que le confinement a augmenté les contaminations, que le port du masque a nui grandement aux enfants des écoles, et que la vaccination eut des effets secondaires évitables aux personnes qui n'étaient pas concernées par une maladie dont la contamination n'était pas empêchée par la vaccination. Des décisions majeures d'obligation privative de liberté furent prises au nom de, et en contradiction flagrante avec, la vérité scientifique ! 

D'abord la chose est technique, et nantie de son attrait "d'utilité" indéniable, ensuite elle diffuse des discours de vérité. 

 

(1) Eric Sadin : https://legrandcontinent.eu/fr/2025/10/03/pouvoir-total-lia-et-la-fin-de-limagination/