BLOmiG

Auteur/autrice : BLOmiG

  • Universaliste ?

    Universaliste ?

    Grâce à François, mon père, et à mes frères et belles-soeurs, nous avons esquissé pendant notre repas de Noël une belle discussion sur le thème de l’universalisme. C’est un sujet passionnant. Notre père avait travaillé le sujet et en avait fait un article, très intéressant, en réaction à d’autres articles. Pour pouvoir suivre la réflexion, je suis allé regardé, pendant que nous discutions, la définition sur le TLFI :
    Universalisme n. m. :
    Toute doctrine qui considère la réalité comme un tout unique, ce qui revient à dire universel, dans lequel les individus ne peuvent être isolés, si ce n’est par abstraction.
    Elle m’a interpelé, très fortement, et m’a forcé à réfléchir un peu plus à ce sujet.

    Contre-intuitif

    J’avoue que spontanément, si l’on m’avait demandé si je pensais être universaliste, j’aurais répondu « oui ». Pour la raison que je crois en une forme de « nature humaine », sous-jacente aux différentes races, cultures, particularismes, et à des « droits naturels » associés à cette nature. Mais la définition philosophique (celle que j’ai recopié ci-dessus) est plus précise que cela. Je considère la réalité comme un tout unique (le Réel), mais je considère également qu’il est faux de dire que les individus ne peuvent être isolés, si ce n’est par abstraction. En tout cas, cette idée m’interpelle. Et elle me parle cependant car, oui, les frontières entre l’individu et la société dans laquelle il s’insère ne sont pas si nettes que cela. Pour préciser ma pensée, j’ai besoin d’aller chercher le sens du mot « abstraction », car j’y vois plusieurs notion distinctes allant de la montée en concept « abstraits » à la négation de la réalité « concrète ». En fait « Abstraire », car l’abstraction est le pouvoir, la capacité d’abstraire.
    Abstraire v. trans :
    Isoler, par l’analyse, un ou plusieurs éléments du tout dont ils font partie, de manière à les considérer en eux-mêmes et pour eux-mêmes.
    L’universalisme décrit donc des doctrines dans lesquelles les « individus » n’existent comme objet de pensée que par effort d’abstraction. C’est une idée forte. Est-ce que l’existence d’une réalité unique, d’un tout, implique nécessairement que chaque « être » (que ce soit un individu ou un objet, la question est la même), ne puisse être pensé que par abstraction ? Je crois très profondément le contraire. Ce sont des éléments que je développerai dans mon essai, mais j’en partage quelques-uns ici, cela me permettra de préciser ma pensée.

    essence ou ensemble d’objets ?

    Il me semble que l’on peut considérer la « réalité unique » dont parle la définition d’universalisme comme un ensemble de choses plutôt que comme un tout unique indifférencié. Si l’on accepte l’idée que la réalité est « tout ce qui existe », alors on peut partir du principe, pragmatique, qu’il existe une multitude de choses, d’êtres, vivants ou non, matériels ou non, qui font, pris dans leur ensemble, la réalité. C’est une vision pluraliste de la réalité vue comme un « ensemble » de choses, plus que comme une « essence » unique dont chaque être ressortirait et ne pourrait être, par conséquent, qu’abstrait pour pouvoir être pensé. Je crois vraiment que c’est notre connaissance des différents objets qui peuplent le réel qui construit notre compréhension de celui-ci. J’accepte l’idée que des objets de nature, d’essence, différente peuplent le réel. Une idée n’est pas de même nature qu’un électron. Les deux sont des objets de la réalité.
    Vu sous ce prisme, une doctrine universaliste me parait être à coup sûr un idéalisme (« Toute philosophie qui ramène l’existence à l’idée »). La vision que je développe en partant des objets est une vision pragmatique (« Qui concerne les faits réels, l’action et le comportement que leur observation et leur étude enseignent »).
    Après réflexion, et grâce à ces définitions, je crois pouvoir dire très simplement que je ne suis pas universaliste.

    Et les humains dans tout ça ?

    Si l’on revient au sujet de départ, qui ne concernait pas les essences abstraites, ou la manière d’aborder le réel, mais bien les individus humains, et les cultures et les peuples, est-ce que ce détour par le dictionnaire permet de clarifier les termes de la discussion ? Il me que oui, en partie. Les doctrines universalistes posent comme principe de départ que l’individu n’existe pas en tant que tel, mais par un effort d’abstraction, d’isolement de son contexte, pour en décrire des caractéristiques qui seront toujours, d’une manière ou d’une autre, porteuses d’une « simplification », ou d’une perte véracité. Or, et c’est mon point de vue, que je suis en mesure d’exposer plus clairement maintenant, il me semble tout à fait légitime et justifié de partir du principe d’existence des individus (comme entités biologiques, organismes), et de chercher à comprendre ce que sont leurs caractéristiques, leurs déterminants, etc. Cela n’empêche pas de chercher à penser le collectif, ou la culture, ou la civilisation, ou la race, ou tout autre catégorie visant à généraliser. Cela interdit simplement, et c’est mon point, de sacrifier l’individu au nom de l’universel, ce que font les universalismes en prétendant que l’individu n’existe que par abstraction. S’il existe une réalité « surplombante » et que l’individu n’est toujours qu’une idée (résultat de l’effort d’abstraction) alors il ne vaut pas grand-chose. Je ne prétends pas avoir raison sur la philosophie, mais ma sensibilité et mes maigres connaissances historiques me semblent confirmer que les doctrines universalistes sont aussi celles qui, par centaines, par milliers, par millions, ont tués des pauvres gens qui n’avaient rien demandé à personne. Je comprends mieux pourquoi : ce n’était pas des personnes, des individus, mais des « abstractions » isolées du Grand Tout.

  • Mélancolie

    Hier, je me suis rendu au pot de départ à la retraite d’un vieux collègue et ami. C’était un très chouette moment de partage, de souvenirs, et de retrouvailles.
    Je suis retourné pour l’occasion sur mon ancien lieu de travail, à Guyancourt, où j’ai passé une bonne dizaine d’année, de 2003 à 2015. Retourner en voiture là-bas, redécouvrir le bâtiment, les lieux fréquentés à l’époque, le Lab que j’avais contribué à mettre en place, et – bien sûr – revoir d’anciens collègues, tout cela m’a rendu un peu mélancolique. Un étrange sentiment m’a étreint toute la journée, lié à une sorte de télescopage d’époques : revenir là où a commencé ma vie professionnelle dans le privé, vingt-deux ans plus tard, a créé une sorte de repli du temps et de l’espace sur lui-même. Le bâtiment n’a presque pas changé, mais les gens, l’organisation, tout le reste, oui. Les visages des collègues perdus de vue il y a plus de 10 ans pour certains, toujours les mêmes, mais marqués par le temps qui passe, étaient à la fois une source de joie, et de compassion. Les visages ne mentent pas : le temps, mais aussi les évènements y laissent des marques visibles, sinon lisibles, et le choc est assez intense.
    Heureusement, les échanges, le très beau discours de départ de mon ami (profond, sincère et riche en partage), et la chaleur humaine, palpable, de gens qui s’apprécient et ont construit des choses ensemble, ont coloré cette journée d’une joie réelle qui a nuancé cette mélancolie. Mais la mélancolie déclenchée par le voyage aller, en voiture, cette remontée dans le temps, a absorbé d’une traite cette joie, et s’en est nourrie. Le temps ne plaisante pas vraiment. Peut-être ce mélange de tristesse et de joie est ce que les portugais appellent la saudade ?
    Mélancolie : Sentiment d’une tristesse vague et douce, dans laquelle on se complaît, et qui favorise la rêverie désenchantée et la méditation.

  • Citation #185

    Pour ce qui est de l'avenir, il ne s'agit pas de le prévoir, mais de le rendre possible.

    Antoine de Saint-Exupéry (1900 – 1944)
    écrivain, poète, aviateur et reporter français.

    Voilà une citation intéressante sur ce qu’est l’avenir, objet qui – à l’évidence – n’existe pas. C’est drôle de parler de choses qui n’existent pas, du moins pas encore, ou pas tout à fait encore…
    La citation fait penser à la définition de ce qu’est la démarche projet (« Structurer méthodiquement et progressivement une réalité à venir »). On y trouve presque toutes les idées de la phrase de Saint-Exupéry, même cette idée poétique de « rendre possible », « permettre », comme s’il fallait autoriser, faire de la place à ce qui arrive. En effet, faire de la place à ce qui n’existe pas encore, n’est-ce pas le sens du mot progressivement de la définition ? En rebond, cela renvoie à l’idée de l’innovation (innover : « Introduire du neuf dans quelque chose qui a un caractère bien établi. »). Il faut bien aménager et faire de la place pour cela. Permettre la remise en ordre, rendre possible, permettre.

  • La parole aux machines

    La parole aux machines

    Thibaut Giraud (alias Monsieur Phi) vient de publier un ouvrage passionnant et très solide sur les LLM : sous-titré « Philosophie des grands modèles de langage », il revient sur les premiers pas des LLM (Large Language Models), sur la manière dont cela fonctionne, pour terminer l’ouvrage par une série de questions toutes plus passionnantes les unes que les autres, et qui sont pour le moment sans réponses totalement certaines (les LLM ont-ils une conscience ? les LLM peuvent-ils nous nuire ?).
    Je ne vais pas détailler dans cette recension le livre par le menu, d’une part parce que ça n’aurait pas grand intérêt (allez l’acheter, je vous le recommande), et d’autre part parce qu’une partie de son contenu est en partie accessible en ligne (à plein d’endroits pour la description de ce que sont les LLM et sur la chaine Youtube de Monsieur Phi, pour les aspects développés dans la deuxième partie du livre, dont les vidéos sont toujours très bien faites (je la suis depuis déjà plus de 7 ans). Je linkerai ici celles qui renvoient à certains passage du livre. Je partage simplement quelques points que je retiens personnellement, et qui ont alimenté ma réflexion et soulevé des questions.

    Vrai connaisseur

    Thibaut Giraud, docteur en philosophie, spécialiste de la logique et de la philosophie du langage, est quelqu’un de vraiment très pédagogue, et qui met les mains dans le cambouis. Les LLM, ils ne les regardent pas du haut d’une tour conceptuelle flottant dans l’éther philosophique : non, il s’en sert, l’utilise, la teste, y réfléchit, et s’appuie sur les travaux des chercheurs pour continuer à y réfléchir. Cela permet de se rendre compte, comme sur beaucoup de sujets, à quel point les journalistes invitent en général non pas les experts des sujets, mais ceux qui sont prêt à baratiner pour leur servir ce qu’ils veulent entendre. Thibaut Giraud, c’est le moins que l’on puisse dire, règle leur compte, à juste titre, à des guignols comme Luc Julia ou Raphaël Enthoven, qui sont invités partout, pour dire des choses fausses à propos des LLM, ne prouvant rien d’autre que leur incapacité crasse à simplement confronter leurs idées à la réalité empirique. Si vous voulez voir un mise à mort philosophique, c’est intéressant. Raphaël Enthoven raconte n’importe quoi. Luc Julia aussi. Merci à Thibaut Giraud de montrer leur nudité.

    Les machines ont pris la parole

    Le livre s’ouvre sur ce qui devrait tous nous étonner, radicalement : les LLM signent une rupture réelle dans l’histoire de l’humanité. Depuis leur arrivée, et l’accélération du développement de leurs compétences, les humains ont perdus le monopole du langage. Cette caractéristique qui nous permettait de séparer les humains du reste de l’univers est tombé. Tout texte, désormais, est possiblement le fruit du travail d’une machine, et dans la plupart des cas il est presqu’impossible au commun des mortels de faire la différence entre une production humaine et celle d’un LLM.
    Le doute s’immisce… Un doute étrange et profondément nouveau. Songez-y : il aurait été absurde de le formuler il y a seulement dix ans. Nostalgie d’une époque où l’écriture était encore le privilège de l’humanité… C’est fini. (…) (les doutes) continueront de peser sur tout ce qui s’écrit, et de plus en plus au fur et à mesure qu’augmentera la qualité des textes générés. Ne serait-ce qu’en cela, il me semble que notre rapport au langage a été profondément et irrémédiablement changé : sa maîtrise n’est plus le critère de distinction par excellence de l’être humain. Désormais, les machines aussi parlent. Pour autant, pensent-elles ?
    Une bonne partie partie du livre est consacré à répondre à cette question, loin d’être triviale, et auquel le bon sens n’apporte en général qu’une réponse préfabriquée visant plus à se rassurer qu’à sérieusement considérer cette problématique, d’où le grand intérêt du livre.

    Changement de paradigme

    Ce qui rend contrintuitifs beaucoup de débats à propos de l’IA et des LLM, c’est que la paradigme informatique à l’oeuvre n’est plus le même que celui que nous avons intériorisé pendant les trente ou quarante dernières années. Nous sommes sortis sur paradigme purement « programmé » (une suite d’instructions dit à la machine ce qu’elle doit faire), à un paradigme « d’apprentissage » (un réseau de neurones formels, pré-entrainé, apprend automatiquement, sur la base d’énormes quantités de données, à produire les « bonnes » réponses). Dans le cas d’un programme classique, on sait décrire précisément ce que fait le code (même s’il le fait dans des échelles de temps et de données sans commune mesure avec ce que nous pouvons imaginer). Dans le cas d’une IA, et plus spécifiquement d’un LLM, nous ne savons pas, devant le fonctionnement du modèle, dire précisément ce qu’il fait. Les milliards de paramètres du réseau de neurones ne nous permettent pas vraiment d’être très clair sur la manière dont le modèle donne la bonne réponse.
    On redécouvre dans ce domaine la notion d’émergence, ou d’ordre spontané : un ensemble même minimal de règles peut donner lieu des résultats complexes, imprévisibles. Les neurones donnent bien naissance à la « conscience », n’est-il pas naturel qu’un réseau de neurones informatique, surtout de cette taille là, puisse générer des choses inattendues et non prévisibles ?

    Les machines sont-elles conscientes ?

    Poser la question, et elle est pertinente, montre à quel point cette révolution technologique est radicale : on est en pleine science fiction. S’appuyant sur beaucoup de travaux de chercheurs (notamment certains de ceux qui travaillent chez OpenAI ou Anthropic), l’auteur montre que sur des LLM simplifiés, on a pu mettre en place des « sondes » qui permettent d’accéder à l’état de certaines couches de neurones du réseau. La conclusion est pour le moins troublante (détail dans cette vidéo).
    C’est un résultat fascinant : avec ces sondes, il semble que l’on mette le doigt sur une véritable représentation interne qui a émergé au cours de l’entraînement pour faciliter le travail de prédiction. La boîte noire du réseau de neurones n’est plus si noire. Et les chercheurs sont allés plus loin pour identifier le rôle que joue cette représentation interne : que se passe-t-il quand on la manipule ? (…) Grâce aux sondes qu’ils ont entraînées, les chercheurs savent maintenant ce qui, dans l’état interne du modèle, représente l’information, selon laquelle il y a un pion blanc sur la case f8 par exemple. Ils peuvent dès lors manipuler cet état interne pour qu’il représente plutôt la présence d’un pion noir sur cette case. Ils ont en quelque sorte changé, non pas l’état du plateau selon l’historique de coups, mais ce que le modèle a « dans la tête », sa représentation du plateau, quand il y a réfléchit. Désormais, il « voit » un pion noir en f8. (…) De façon générale, après manipulation de la représentation du modèle, les prédictions restent des coups légaux selon la représentation modifiée dans plus de 99,9% des cas.
    Pour aller plus loin des chercheurs ont publié un papier intitulé « La conscience dans l’intelligence artificielle : l’éclairage des sciences de la conscience » (Butlin et al. 2023). Ils prennent un certain nombre de modèles scientifiques de la conscience, et des caractéristiques de la conscience, et regardent si les modèles LLM répondent à certains de ces critères. La conclusion est sans appel : nos connaissances sur ce qu’est la conscience ne nous permettent pas vraiment de répondre à la question.
    En somme, ce rapport sur la conscience artificielle semble avant tout mettre en lumière un profond déficit de connaissance : même en se basant sur nos meilleurs théories scientifiques de la conscience, celles-ci ne nous en apprennent tout simplement pas assez pour déterminer si un système est ou n’est pas conscient. Et ce n’est pas seulement une incertitude liée au fait que nous ne savons pas quelle est la bonne théorie parmi les six proposées : aucune ne permet de trancher de façon claire. Nous sommes face à une ignorance fondamentale qui devrait nous inciter à la prudence sur ces questions d’attribution de conscience. (…) Nous sommes capables de construire des machines simulant la conscience, mais pas de répondre à la question de savoir si elles sont effectivement conscientes. Et nous sommes partis pour construire de plus en plus de ces machines quoi qu’il en soit. C’est perturbant, mais c’est ainsi. En attendant d’y voir clair, commençons par ne pas ignorer notre ignorance.

    Autonomie et alignement

    Dans cette logique, Thibaut Giraud termine le livre en discutant les concepts d’autonomie et d’alignement, montrant un certains nombre d’exemples et de cas limites, où l’on parvient à mettre en évidence des comportements étranges et non alignés des LLM (capacités à mentir, ou à se comporter différemment de ce quel les développeurs avaient mis comme intention dans le modèle). Le fait de faire expliciter les CoT (Chain of thoughts, les maillons du raisonnement) permet en partie de limiter ces phénomènes, mais ça n’est pas si simple, et par ailleurs, ces éléments feront partie de la matière d’entraînement des LLM, donc potentiellement ils pourraient les contourner. L’auteur renvoie à la Déclaration sur le risque de l’IA (avec en auteur entres autres Yoshua Bengio). Cela rejoint les prises de position d’Elon Musk sur l’IA, et son engagement dans une IA open source, dont le but est de chercher le maximum de vérité. Car oui, ces « choses » ne semblent qu’à leur début, avec une puissance énorme, et un contrôle par les humains plutôt mal assuré. Prudence et utilisation vont de pair, à mon sens. Ce n’est pas en mettant la tête dans le sable que l’on pourra jouer avec cette réalité.

    Ouvrage passionnant

    Je vous recommande chaudement ce livre admirable de clarté, et de profondeur. Tout y est bien mis en perspective, concret quand il le faut, conceptuel quand il le faut, sourcé toujours, et souvent drôle. Vous y découvrirez encore plein d’autres choses passionnantes, comme les expériences de pensée de la chambre chinoise, ou du cerveau colossal (d’ailleurs aussi présent dans Le problème à trois corps).
    A lire, pour ne pas se contenter des avis superficiels conduisant au rejet suffisant, ou à l’adhésion béate.

  • Confabulation

    Confabulation

    J’ai appris ce mot en lisant l’excellent livre de Thibaut Giraud (alias Monsieur Phi) sur les LLM (Large Language Models). Le livre « La parole aux machines » est remarquable et fera l’objet bientôt d’une recension détaillée ici.
    En décrivant la manière dont les premières versions des LLM hallucinaient (ça arrive encore mais nettement moins), il précise :
    Le terme n’est peut-être pas le mieux choisi pour désigner ce phénomène parce que celui-ci n’a qu’un rapport assez vague avec des hallucinations au sens psychologique : on ne prétend pas que ChatGPT perçoit faussement l’existence d’oeufs de vache. Il serait plus juste de parler de faubulation pour ce type de discours, c’est-à-dire la présentation d’éléments fictifs comme factuels. On pourrait aussi rapprocher ce phénomène de la confabulation qui consiste, pour l’être humain, dans le fait d’ajouter involontairement des éléments imaginaires afin de compenser des lacunes dans ce que la mémoire nous présente. Presque tous nos souvenirs sont le mélange d’éléments réels et confabulés que nous avons le plus grand mal à distinguer (…).
    Cela résonne avec certaines de mes réflexions sur les récits et les faits, et comme j’aime les mots je suis allé chercher la définition de ces deux mots.
    Fabulation :
    A.− Organisation des faits constituant le fond d’une œuvre littéraire.
    B.− Récit imaginaire.
    Et le deuxième, qui semble être un anglicisme, ou peut-être simplement plus rare ou récent (absent du TLFI), décrit, dans un registre plutôt pathologique, un « trouble de la mémoire qui consiste à produire des souvenirs fabriqués, déformés ou mal interprétés sur soi-même ou sur le monde ». Le terme est donc particulièrement bien choisi pour décrire ces fameuses « hallucinations » des LLM.
    En conclusion, il faut aussi mentionner le troisième larron de la bande, basé sur la racine « fable » (emprunté au latin « fabula », désignant des « propos, paroles ») : affabulation, dont je ne connaissais pas du tout le sens précis (uniquement le dernier sens, par extension, qui est déjà loin du sens initial).
    Affabulation subst. fem :
    A.− Rare, vx. Morale énoncée au début ou plus généralement à la fin d’une fable, d’un apologue.
    – P. ext. Moralité tirée d’un événement symbolique.
    B.− RHÉT. Organisation méthodique d’un sujet en « fable », c’est-à-dire en intrigue d’une pièce de théâtre, en trame d’un récit imaginaire.
    − Au plur. Œuvres d’imagination organisées en « fable ».
    − P. ext. Succession des épisodes d’un rêve.
    Je suis content d’avoir un mot pour décrire ce phénomène que j’ai expérimenté souvent : la confabulation.

  • Citation #184

    La rationalité est la vertu fondamentale de l'homme, la source de toutes ses autres vertus. Le vice fondamental de l'homme, la source de tous ses maux, est l'acte de ne pas concentrer son esprit, de "suspendre" sa conscience, c'est-à -dire non d'être aveugle, mais de refuser de voir ; non d'être ignorant, mais de refuser de savoir. L'irrationalité est le rejet du moyen de survie de l'homme, et, par conséquent, un engagement dans la voie de l'autodestruction. Ce qui est contre l'esprit est contre la vie.

    Ayn Rand (1905 – 1982)
    Ecrivain et philosophe américaine (d'origine russe)