Les IAs, les AIs.

 

 

 

 

 

 

Il faut bien en parler tout le monde en parle. Apparue en novembre 2023, elle est efficiente depuis novembre 2025, c'est ce que disent tout ceux qui continuant à l'utiliser pour coder on réalisé qu'un saut qualitatif s'était produit à ce moment là, et mettent en place en ce moment même les systèmes dits "agentiques" qui font merveille sur merveille depuis presque un an...

Un processus

Car l'IA est d'abord comme beaucoup de choses mal conceptualisées, un "processus" c'est-à-dire un train en marche dont on ne sait pas où il va. Tout le monde met du charbon dans la machine et invente tous les jours une application, un principe, une école ou un système. C'est l'explosion technique et cognitive qui accompagne les grands changements sociaux liés à l'introduction d'une nouvelle technique. C'est en cours, et c'est en ce moment. Juger une chose essentiellement en devenir, et qui se transforme tous les jours, c'est se tromper: il faut évaluer le processus, tenter de comprendre ses structures et ce qu'il peut bien devenir. Certainement pas prétendre savoir ce qu'il en est. 

Parmi les discours sur la question, on se doit d'élaborer d'abord ce qui se passe dans le domaine du logiciel, espace d'origine de la chose et surtout lieu où s'élabore les techniques, évidemment logicielles, qui sont à l'origine des progrès qualitatifs de cette technique. Les réseaux de neurones de tailles immenses qui sont entrainés sur des volumes de données de taille encore plus immense (tout l'internet public est évidemment concerné, et une bonne part de l'internet privé, encore plus grand, aussi). Ça bidouille, ça hacke, mais surtout ça invente et consolide, ça transforme, ça aligne, bref, ça programme et évidemment ça ment en jeu la version d'avant du système, lui-même capable de produire du code. 

La première chose est donc que l'IA est d'abord, matériellement, un ensemble de programmes coordonnés qui dans son processus de fabrication et d'exploitation, est un système sous contrôle, en expérimentation et test perpétuel. Toutes les interactions sont loggées et surveillées et utilisées en permanence pour "tuner" les "modèles" qui se succèdent. 

Qu'est ce qu'un "modèle" ? C'est le bloc de code, composé partiellement de réseaux de neurones en chaines mais aussi d'orchestrateurs variés, qui est exécuté dans un cadre quasi standardisé, en fait par des moteurs d'exécution eux même standards, le plus célèbre d'entre eux étant Ollama, un open source donné par Méta. 

On a donc une unification de l'extérieur des modèles, l'api "prompt/réponse" et une extrême diversité des intérieurs de modèles, qui peuvent être structurés en multiples sous modèles spécialisés, alimentés en fonction des requêtes identifiées. Cette structuration pallie les errements des réseaux de neurones, géniaux mais foutraques et dont les résultats au final stupéfiants, ne sont pas vraiment expliqués: des effets d'échelles dans les centaines de milliards d'agrégations variées ? 

De quoi en tout cas susciter bien des émois et de deux ordres. Les miens sont clairs, et affirmatifs: ce truc est du logiciel et ne pourra absolument jamais dans cet état des choses là, acquérir la moindre autonomie décisionnelle véritable ou conscience de soi informée, bref, ne pourra jamais être humain. Dot barre. D'autres sont plus évasifs et on l'on va, comme d'habitude de la plus extrême superstition à des agnosticismes élégants et vicelards. On "n'en sait rien". Ben voyons. 

En gros, la discussion bat son plein. Mais avant de s'y lancer et on peut y rester, voyons ce qui se passe vraiment. 

L'illusion de l'humanité

D'abord l'illusion de l'humanité. Déjà manifeste avec un programme emacs lisp des années 80, l'effet "Eliza" avec ChatGPT, c'est puissance mille comme on dit: face à l'illusion il y a de quoi être sidéré. Pour beaucoup de gens, l'interlocuteur artificiel dans les domaines du sexe, de la sentimentalité neuneu comme de l'amour infini et donc de la religion puis du dialogue avec le prophète voire avec Dieu lui-même, et bien il est absolument "là". 

Intelligent comme pas possible et pertinent admirablement, la chose peut fasciner jusqu'aux très non cultivés spécialistes de tout domaine exagérément spécialisé: seul face à l'indicible, on craque. 

C'est comme cela qu'on doit interpréter l'abandon des mathématiques par un "médaille fields" spécialiste des olympiades mathématiques (cirques un peu ridicule pour taupins et taupinades maintenant dominé de manière écrasante par l'IA): ce n'était que cela, et l'intelligence n'est pas ce qu'une machine peut faire, par définition et celle-ci évolue avec les machines. Le mathématiciens a abandonné sa manière de faire des maths, pas si intelligente... 

La récente résolution d'un problème du millénaire (la singularité de Navier Stokes) n'est pas le fait d'une super intelligence mais d'une gigantesque attaque de force brute avec 10 000 agents répartis par angles d'attaques possibles. Du talent pour le modèle utilisé (décrit comme bien plus performant que le plus fort des modèles distribuable, lui bridé et aligné) certes, mais des dizaines de matheux surveillant la progression et la formalisation du problème. Les mathématiciens ne peuvent plus se contenter de leur bite et de leur stylo, pour certains problèmes il faut du hard. 

Pourtant, c'est indubitable, les choses vont vite, et surtout ça continue. Mais, et là on a un blocage (pour ce qui me concerne) il faut se résoudre à admettre deux choses.

La vie

D'abord que l'intelligence qui obsède beaucoup, n'est pas la "vie", et que le mystère de la vie tout simplement, celle des bactéries et des virus à quelques centaines de bases est pourtant un mystère bien plus fondamental que celui de l'intelligence ou même de la conscience. Mieux, les choses sont en relation et si on peut simuler l'intelligence par formalisation symbolique ou imitation basique de ce qu'on comprend des neurones, conscience, sentiments, volonté et humanité dépendent de l'existence d'un noyau vivant, reproduit des milliards de fois et doté d'un historique adapté par l'histoire. Imaginer qu'il y aurait un "principe" émergeant d'autre chose que d'une adaptation prouvée par le temps au réel semble illusoire. Il faudra moins de 4 milliards d'années pour que l'IA évolue, mais plus de 3 ans... 

Ensuite que l'intelligence c'est aussi une adaptation régulée au réel qui est interaction avec la matière ou une autre intelligence. Cette adaptation est apprise et compatible avec le matériel biologique disponible et se matérialise par une co-évolution de l'environnement et des individus qui se succèdent, sachant que ces individus, eux-mêmes sujets à la croissance puis à la mort peuvent tous porter une tentative succès ou échec, qu'on peut assimiler ou refuser. 

Le résultat est un encodage d'un non-symbolique et c'est toute l'affaire. Même neuronal et mystérieusement animal, la mémorisation des LLM se fait sur une base purement symbolique et ne concerne que des encodages discrets, ceux produits par le langage. Absolument rien dans l'expérience du LLM ne concerne un rapport organique au réel. C'est  l'argument  de Le Cun au sujet des robots: aucun modèle ou expérience de la résistance du réel n'intervient dans la construction de la réponse du LLM. Or cette relation au réel se doit d'être "instinctivement" assimilé par l'acteur. Le sportif ou la mouette qui plonge n'a pas de représentation symbolisée de son action, mais un sentiment interne, un réflexe immédiat. Il ou elle ne calcule pas, il active ce qui doit être fait. 

Cela s'applique à toutes les applications effectives et désirables de l'IA et cela avant même qu'on puisse parler de "personne" automatisée. Les LLM sont loin du compte, quelque soit l'ampleur des changements qu'ils vont nous apporter en matière de manipulation de l'information. 

Les applications

On ne parlera pas des dérives bigotes ou sentimentales, déjà abordées. Au-delà de cela il y a l'exploration et la production de textes symbolisés. 

On doit considérer les maths, et aussi la physique, c'est-à-dire les calculs exploratoires présidant à l'élaboration des connaissances. Le code informatique en fait partie, mais à un moindre degré, car sa "découverte", sous forme de programme agissant effectivement n'est pas une connaissance au sens strict même s'il s'y assimile (une démonstration de théorème étant équivalent à un programme), car le théorème qu'est le programme n'est pas objet d'un souci de progression des connaissances au sens strict... 

Les maths ou la physique sont d'abord des élaborations de connaissances, supposées être ensuite utilisables par une technique mue par d'autres volontés. À ce titre, elles sont et vont être produites avec des outils IA dirigés par les différentes volontés en jeu, qu'elles soient désintéressées ou organisées politiquement ou techniquement avec tous les intermédiaires entre les deux.  Un point fondamental est qu'elles devront, quelle que soit leur mode de production complexe ou pas, être formellement vérifiées pour être acceptées, et cela avant tout expérience en rapport. Les démonstrations symboliques non intégrables dans le mystère neuronal des LLM resteront maitre du terrain, même si leur complexité propre est elle-même générée par IA. Cela devra "tourner" au final. 

Le corset

Pour ce qui concerne le code en général, et là on peut y inclure toutes les activités précédentes, la bite et le stylo devant sans doute être abandonnés tous les deux (pardon d'y revenir encore), il faut aussi savoir qu'il est "corseté" (harness) par un ensemble particulier de conventions et contraintes. 

Car il faut rappeler que l'utilisation de l'IA dite "agentique" et qui consiste à lancer des recherches en questionnant sur des sous problèmes isolés du problème à résoudre, et en fait un questionnement double: d'abord la question elle même, ensuite, appliquée à la réponse, des règles d'acceptabilité, qui refusées, conduisent à reposer la question dans le contexte de l'échec précédent, ajouté au contexte courant. Cette boucle de recherche qui pourrait faire croire à une autonomisation de l'IA (alors que la pauvre n'est qu'une brique dans un processus technique) est essentielle à l'efficacité technique de l'ensemble. L'ensemble des règles d'acceptabilité des résultats pèse autant que l'exploration pure menée pour chaque question. Elle peut être elle-même sujette à des questions intelligentes, mais aussi à des constructions traditionnelles, par exemple une compilation du code en élaboration, faite à l'extérieur du LLM. 

Bref, le corset de l'exploitation de l'intelligence est aussi important, voire plus important que l'intelligence elle-même. Elle permet de pallier la terrible méconnaissance du réel de la mémoire symbolique des neurones. 

La sécurité

Les 50 dernières années furent celles de l'informatique avec des progrès effrennés dans tous les domaines. Il en reste les myriades de bugs et de trous de sécurité qui permettent toutes les exploitations. L'IA est un outil magique pour les trouver et les exploiter et aussi pour les trouver et les réparer. La guerre a commencé et elle bat son plein.

Une seule stratégie: "kill the legacy!" Tout doit être réécrit et prouvé correct pour que le monde continue de marcher, c'est le programme obligé de la techno à venir. Du boulot pour les informaticiens, en tout cas. 

puissance et fragilité, poison et contre poison, la technique se déroule suivant ses caractéristiques propres qu'on ne peut ignorer sans naïveté. 

Les médias

Le 4ème pouvoir est maintenant discrédité en tant que tel, réduit à produire les narratifs des pouvoirs. La cathédrale n'a plus d'autorité. 

L'IA permet de rétablir l'équilibre et de permettre la synthèse de toutes les infos brutes disponibles et dans toutes les langues. 

Que dire d'autre ? Demandez à l'IA !