Kit de détection d'idioties #1

Carl Sagan, scientifique connu pour son scepticisme a décrit dans un ouvrage célèbre la démarche scientifique et les outils de la pensée critique. Il a résumé cela de manière très simple et concise dans son fameux « Kit de détection d’idioties ». Il s’agit d’une liste d’outils permettant de vérifier la solidité d’hypothèses, et d’éviter les erreurs de logiques ou de rhétoriques les plus courantes. Dans ce premier volet, je vous présente les outils pour bien construire et tester un raisonnement.

Carl Sagan et le scepticisme

J’avais déjà  parlé ici de l’excellent bouquin de Normand Baillargeon : « Petit cours d’auto-défense intellectuelle« . A lire d’urgence, pour tous ceux que le doute et le scepticisme scientifique intéresse plus que la conviction et les raisonnements engagés.
Une bonne partie du contenu de ce livre se trouve en ligne sur le site d’Olivier Hammam.
J’avais découvert, grâce à  ce livre, Carl Sagan. Carl Sagan était un astronome. Il est resté célèbre, entre autres, pour son scepticisme.
Je ne résiste pas au plaisir d’une petite citation :

Il me semble que ce qui est requis est un sain équilibre entre deux tendances : celle qui nous pousse à  scruter de manière inlassablement sceptique toutes les hypothèses qui nous sont soumises et celle qui nous invite à  garder une grande ouverture aux idées nouvelles. Si vous n’êtes que sceptique, aucune idée nouvelle ne parvient jusqu’à  vous ; vous n’apprenez jamais quoi que ce soit de nouveau ; vous devenez une détestable personne convaincue que la sottise règne sur le monde — et, bien entendu, bien des faits sont là  pour vous donner raison.
D’un autre côté, si vous êtes ouvert jusqu’à  la crédulité et n’avez pas même une once de scepticisme en vous, alors vous n’êtes même plus capable de distinguer entre les idées utiles et celles qui n’ont aucun intérêt. Si toutes les idées ont la même validité, vous êtes perdu : car alors, aucune idée n’a plus de valeur.

Son ouvrage le plus connu est The Demon-Haunted World (Science as a Candle in the Dark). C’est un ouvrage qui explique aux néophytes la méthode scientifique, et encourage tout le monde à  apprendre le scepticisme (ou esprit critique).
On y trouve un truc formidable, et c’est pour ça que j’écris cet article : un « kit de détection d’idioties » (en anglais « baloney detection kit »).
Ce kit, disponible en anglais iciOn y trouve un extrait de Sagan, C. 1997, The Demon-Haunted World, Headline Book Publishing, London, pp 196-204, me parait suffisamment utile et intéressant pour que je le republie ici : j’espère que vous y trouverez un intérêt également. En ces temps peu sereins où le principe de précaution devient un guide-âne de l’action à  la place de l’envie d’entreprendre et de comprendre, quelques règles simples de pensée ne peuvent pas être inutiles pour éviter de se faire promener par les marchands de peur. La connaissance du monde, qui va forcément avec une place laissée au doute, doit rester notre fil conducteur. Sous peine de voir les passions l’emporter sur la raison. On sait où ça mène.

Kit de détection d’idioties : première partie

Carl Sagan décrit le « kit de détection d’idioties » (appelons le KDI) comme un outil de test des idées nouvelles (dans le domaine scientifique). Si l’idée nouvelle survit au crible du KDI, on lui accorde un certain crédit. C’est une manière de prendre ses précautions, et garder un esprit critique.

Qu’y a-t-il dans le kit ? Des outils de pensée sceptique.

Ce que la pensée sceptique apporte, ce sont les moyens de construire et comprendre un raisonnement argumenté, et – chose particulièrement importante – de reconnaitre un argument faux ou frauduleux. La question n’est pas de savoir si nous aimons la conclusion qui émerge d’un raisonnement ou d’une suite d’arguments, mais bien de savoir si la conclusion qui sort de ce raisonnement vient d’une prémisse, et si cette prémisse est vraie.

Carl Sagan

Il y a dans ce kitUn essai passionnant de John D. Nagy (en anglais) sur le « Kit de détection d’idioties » de Sagan se trouve ici deux séries de choses : des outils « positifs » pour évaluer le caractère de connaissance et de véracité de quelque chose, et une liste d’outils « négatifs », de choses à  ne pas faire, et pour reconnaitre les erreurs de logique et de rhétorique les plus communes.
Je vous propose de voir ici la liste des outils « positifs », et de voir dans le prochain article la liste de sophismes / paralogismes courants.

Outils du KDI

Voici la liste des outils :

  • Lorsque cela est possible, il faut des confirmations indépendantes des faits.
  • Il faut encourager des discussions substantielles des faits entre des gens informés ayant différents points de vue.
  • Des arguments d’autorité n’ont que peu de poids. Les « autorités » ont fait des erreurs dans le passé. Elles en feront à  nouveau dans le futur. Peut-être que la meilleure manière de le dire est qu’en science, il n’y a pas d’autorités ; tout au plus, des experts.
  • Envisagez plus d’une hypothèse. S’il y a quelque chose à  expliquer, pensez à  toutes les manières dont cela pourrait être expliqué. Puis pensez à  la manière dont vous pourriez tester, et réfuter les différentes explications. Ce qui reste, les hypothèses qui résistent à  la réfutation dans cette sélection Darwinienne parmi des multiples hypothèses de travail, a une meilleure chance d’être la bonne réponse que si vous aviez simplement conservé la première idée qui vous vient à  l’esprit.
  • Essayez de ne pas vous attacher excessivement à  une hypothèse simplement parce que c’est la vôtre. C’est seulement une étape dans la conquête de la connaissance. Demandez-vous pourquoi vous aimez cette idée. Comparez la impartialement à  d’autres hypothèses. Voyez si vous pouvez trouver des raisons de la rejeter. Si vous ne le faites pas, les autres le feront.
  • Quantifiez. Quelle qu’elle soit, si votre explication comporte des chiffres, des mesures, quelques quantités numériques associées, vous serez mieux à  même de faire le tri entre les hypothèses concurrentes. Ce qui est vague et qualitatif est ouvert beaucoup d’explications. Bien sûr, il y a des vérités à  chercher dans la quantité d’informations qualitatives que nous examinons, mais elles sont plus difficiles à  trouver.
  • S’il y a une chaîne d’arguments, chacun des maillons doit fonctionner (y compris la prémisse). Pas seulement la plupart d’entre eux.
  • Le rasoir d’Occam : Un principe de base bien utile lorsque l’on est confronté à  deux hypothèses qui expliquent aussi bien les faits l’une que l’autre, consiste à  choisir la plus simple. La plus simple = l’hypothèse qui repose sur le plus petit nombre de propositions non démontrées.
  • Demandez vous si votre hypothèse peut, au moins en principe, être falsifiée (i.e. être démontrée fausse par un test nom ambigu). Les propositions qui sont non-testables, non-falsifiables ne valent pas grand-chose. Imaginez la belle idée que notre univers et tout ce qui existe soit juste une particule élémentaire – disons un électron – dans un Tout encore plus grand. Mais si nous ne pouvons jamais acquérir d’informations depuis l’extérieur de notre univers, est-ce que cette idée n’est pas impossible à  réfuter ? Vous devez être capable de vérifier les affirmations. Les sceptiques invétérés doivent avoir une chance de pouvoir suivre votre raisonnement, de refaire vos expériences, et de voir s’ils obtiennent les mêmes résultats.
  • S’appuyer sur des expériences soigneusement conçues et contrôlées est la clé. Nous n’apprendrons pas grand-chose de la contemplation. C’est tentant de se reposer sur la première explication qui nous vient à  l’esprit (une explication, c’est mieux que rien). Mais que se passe-t-il si nous pouvons en inventer plusieurs ? Comment choisir entre elles ? Nous ne pouvons pas. Nous laissons l’expérience le faire. Francis Bacon a fourni la raison classique :

    L’argumentation ne peut pas se contenter de la découverte d’un nouveau travail, car la subtilité de la Nature est bien plus grande que la subtilité des arguments.

  • Les expériences de contrôle sont essentielles. Si, par exemple, un nouveau médicament est censé soigner une maladie dans 20% des cas, nous devons nous assurer qu’une population de contrôle, qui prend une bête pillule de sucre (et dont les sujets pensent qu’il s’agit du nouveau médicament), ne guérit pas également dans 20% des cas
  • Les variables doivent être séparées. Supposez que vous avez le mal de mer. Et que l’on vous donne un bracelet de Shiatsu et 50mg de meclizine. Votre malaise disparait. Qu’est ce qui l’a fait partir, le bracelet ou la pillule ? Vous ne pouvez le dire que si vous tester l’un sans l’autre, la prochaine fois que vous aurez le mal de mer. Maintenant, imaginez que vous n’êtes pas autant motivé par la science que par l’envie de n’être plus malade. Dans ce cas, vous ne séparerez pas les variables. Vous prendrez les deux remèdes à  nouveau. Vous aurez atteint le résultat pratique voulu ; la connaissance future, pourriez-vous dire, ne vaut pas les efforts qu’il faut faire pour l’atteindre.
  • Souvent les expériences doivent être faites en « double aveugle », afin que ceux qui espèrent un certain résultat ne soient pas dans la position compromettante d’évaluer ces résultats. Pour tester un nouveau médicament, par exemple, vous pouvez vouloir que les expérimentateurs (qui déterminent quels symptômes des patients sont traités) ne sachent pas quels patients ont pris le nouveau médicament. Cette connaissance pourraient influencer leurs décisions, même si c’est seulement inconsciemment. A la place de cela, la liste de ceux qui ont vu leurs symptômes disparaitre peut être comparée avec la liste de ceux qui ont pris le nouveau médicament, indépendamment établies. Alors vous pourrez déterminer si une corrélation existe. Ou bien encore, dans une séance d’identification de coupables dans une enquête policière, l’officier ne devrait pas savoir qui est le principal suspect, afin de ne pas influencer les témoins.

Et voilà  ! J’espère que ça vous a plu. Le prochain article listera les différentes erreurs de rhétoriques ou de logiques auxquelles on peut être confrontés : utile pour contrer les interlocuteurs de mauvaise foi, ou simplement pour éviter les débats stériles…!


Publié

dans

par

Commentaires

  1. Avatar de jacques

    Vous avez raison. La Sncf fait comme vous dites: il n’y a pas de principe de précaution pour les passages à  niveau.
    On voit encore aujourd’hui ce que çà  donne !!!

    jf.

  2. Avatar de BLOmiG
    BLOmiG

    c’est pour illustrer ce qu’est une idiotie, que tu postes ce commentaire ici ???

  3. Avatar de max

    ah ah ah, J’ai l’impression :)
    article intéressant, j’attends la suite.

  4. Avatar de BLOmiG
    BLOmiG

    salut Max,
    oui c’est super ce « kit de détection d’idioties »…j’avais trouvé ça trop bien quand je l’avais lu. La deuxième partie est super aussi : on y découvre toutes les techniques utilisées – consciemment ou non – par les gens de mauvaise foi dans les discussions….très utile pour recadrer les débats…!

    à  bientà´t, merci pour ton commentaire !

  5. Avatar de I. raptus

    Une belle illustration de la pensée scientifique, et une excellente manière de recadrer les débats en se basant non pas sur des critères émotionnels, mais sur des faits objectivables.
    A recommander à  tout libre penseur. Et puis…j’adore le titre. Kit de détection d’idioties…faut que je le replace, celui-là !

  6. Avatar de BLOmiG
    BLOmiG

    salut I. Raptus,
    oui c’est la méthode scientifique – sceptique qui est exposé en quelques paragraphes, et ça fait du bien de lire ça.

    Et oui, le nom que Sagan a choisi est bien : il frappe l’imagination, et le cà´té « trousse à  outils » est bien adapté à  une diffusion large…

    merci pour ton commentaire….! à  bientà´t !

  7. Avatar de Gautier Girard

    Certaines « bonnes pratiques » sont utilisées pour lutter contre les sophistes. Il y en a plein, et partout. Vous savez, ce sont ceux qui veulent absolument avoir le dernier mot, à  n’importe quel coà»t moral.

    Et fait plus proche de ton excellent billet, 80% de ce qu’on pense ou dit serait idiot puisque non recoupé de manière factuelle. :-)

  8. Avatar de BLOmiG
    BLOmiG

    salut Gautier,
    merci pour ton commentaire. Oui je suis assez d’accord avec toi, mais il ne faut pas tomber dans l’excès consistant à  confondre « opinion » et « idiotie ». Du moment que l’on échange dans un état d’esprit ouvert à  la discussion, à  l’argumentation, à  l’examen des arguments des autres, on reste dans la discussion ouverte, et dans l’échange d’opinions. C’est l’attitude fermée qui transforme l’opinion en idiotie, selon moi.

    Heureusement que l’on peut penser, même sans tout savoir : comment penserait-on sinon ? on peut réfléchir, et utiliser la méthode sceptique dans bien d’autres domaines que la science, c’est pourquoi j’ai écrit ce billet d’ailleurs….

    à  bientà´t !

  9. Avatar de max

    D’accord avec ta dernière phrase lomig, d’ailleurs il m’arrive assez souvent de remarquer « l’esprit scientifique » chez des gens qui ne font pas de sciences à  priori dans leur travail de tous les jours.

    Il me semble vraiment que le scepticisme dépasse bien largement le champ de la science et correspond plutot à  une manière de penser. Certes rigoureuse et pas toujours très « fun », mais incroyablement puissante pour avancer.

  10. Avatar de BLOmiG
    BLOmiG

    Oui, d’accord avec toi : le scepticisme n’est pas l’apanage des scientifiques… heureusement, d’ailleurs.

    à  bientà´t, et au fait quand est-ce que tu vas t’inscrire sur Gravatar ??? Il y a un lien juste en dessous du formulaire de commentaires… ;)

  11. Avatar de René

    Pas grand chose à  ajouter. Je suis d’accord pour dire que l’esprit scientifique n’est pas réservé au domaine des sciences, et heureusement.

    Il m’arrive souvent de penser que certains feraient bien de mettre en pratique le sceptissisme avant de dire n’importe quoi de manière péremptoire. Mais est-ce que je ne suis pas moi-même en train de manquer de ce sceptissisme-là  ? Quand on est sà»r de soi, tout simplement, et quand on le dit, est-ce prendre le risque de proféréer une idiotie ?

    Comme quoi rien n’est simple…

    A bientà´t.

  12. Avatar de max

    Si justement, mais, comme le soulignait lomig, l’aptitude positive est celle consistant à  formuler sa croyance quand on est sur de soi, quitte à  dire un idiotie, mais rester capable de la remettre en cause en fonction des arguments allant à  l’encontre de notre croyance.

    si quelqu’un peut te montrer que c’est bien que les gens ne soient pas trop sceptiques, alors tu changeras d’avis :)

    mais je pense largement comme toi, ce qui va pas te convaincre !! :)

    bonne journée!

  13. Avatar de max

    un argument : si les gens s’entretuaient par excès de septicisme, ça se saurait ! :)

  14. Avatar de BLOmiG
    BLOmiG

    salut René et max,
    d’accord avec vous, et bien vu l’argument que personne ne s’entretue au nom du scepticisme.

    Au fait René, pour moi le scepticisme n’est pas synonyme de n’être sà»r de rien, ou de ne croire en rien. Le scepticisme n’est pas le nihilisme ; il doit même à  mon avis s’accompagner d’une dose raisonnable de croyances (qui vit sans croyances ?). Le tout c’est d’accepter de parler de ses croyances, de comprendre que tout le monde n’ait pas les mêmes, et de savoir les limites que l’on place à  la tolérance.

    à  bientà´t ! j’essaye de poster le numéro 2 lundi !

  15. Avatar de René

    @ LOmiG

    Je ne crois pas avoir dit, et je ne le pense pas, que le sceptissisme soit « synonyme de n’être sà»r de rien ».

    Je suis d’accord avec la définition que tu en donnes dans ce dernier commentaire, bien que le terme de croyance me gêne un peu en ce qu’il sous-entend, quand même, un certain de degré de certitude qui peut nuire à  l’acceptation de la remise en cause.

    Mais j’ai bien du mal à  trouver un autre terme ; aussi, j’accepte celui-là …

    A bientà´t.

  16. Avatar de BLOmiG
    BLOmiG

    Salut René,
    on est d’accord. En fait je pense qu’on a tous certaines croyances fortement ancrées, et que l’on aurait du mal à  remettre en cause. Le tout est d’accepter que tout le monde n’ait pas les mêmes….

    par exemple : je ne crois pas en Dieu. C’est une croyance forte (je pense que rien n’existe d’autre que la matière), mais je comprends que d’autres ne pensent pas ça. Mais ils auront du mal à  me convaincre…
    à  bientà´t !

  17. […] le premier volet du Kit de détection d’idioties, qui présentait les méthodes “scientifiques” pour raisonner de manière rigoureuse, […]

  18. […] je me suis aperçu de l’existence d’un article de LOmig sur le même sujet. Allez-voir son billet, il est plus détaillé que le mien. « Deux utilisations de la mesure de similarité […]

  19. Avatar de Animal Penseur

    Quand vous parlez de « Quantifiez lorsque c’est possible » ça me rappelle la sémantique générale de Korzybski (le fameux « la carte n’est pas le territoire »). On apprend quand on s’intéresse à  la méthode, que dater ces dires, puisqu’il est admis que chacun est susceptible de changer d’avis « comme de chemise », situe le discours dans le temps.
    Intéressant de voir qu’effectivement, ce n’est pas applicable qu’à  la science, mais aussi à  la « conversation autour d’une pizza » ^__^

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.