La raison est-elle un produit de l’évolution ?

Les succès de la théorie néo-darwinienne de l’évolution dans tous les secteurs de la biologie ont conduit nombre de chercheurs à envisager son extension à tous les domaines : la société, l’esprit, la morale, la culture. La sociobiologie et l’étude de l’altruisme réciproque dans le monde animal, qui entendaient expliquer la vie sociale et l’origine de la morale au sein des espèces, n’ont pas, au départ, tenu leurs promesses, parce qu’elles se limitaient aux seuls facteurs comportementaux. Mais à partir du moment où l’approche cognitive s’est développée, qui suppose que les organismes n’ont pas seulement des comportements mais aussi des mécanismes cognitifs capables de représentations et susceptibles de traiter des informations, l’idée s’est imposée que ces mécanismes pourraient, eux aussi, être soumis à la sélection naturelle, et qu’il pourrait y avoir une évolution non seulement des gènes et des organismes, mais des processus mentaux et de la culture. C’est ainsi qu’est né le programme d’une psychologie évolutionniste. Jusqu’à quel point ce programme peut-il s’appliquer à des capacités humaines aussi sophistiquées que celles de raisonner et de résoudre des problèmes ? Comme tout programme, il se prête à l’optimisme aussi bien qu’au pessimisme. Mais l’idée que la raison s’expliquerait intégralement en termes évolutionnistes incite plutôt au second.

Le cerveau, ensemble de modules déterminés par l’évolution biologique

Le programme de la psychologie évolutionniste n’est pas unifié parce qu’il recouvre désormais plusieurs types d’entreprises, mais la version qu’on peut appeler « orthodoxe » (VO) repose essentiellement sur les idées suivantes. Le cerveau humain est un organe, produit de la sélection naturelle, capable comme un ordinateur d’extraire et de calculer de l’information de l’environnement, et d’engendrer des comportements. Le programme cognitif du cerveau humain est une adaptation, c’est-à-dire le résultat d’une sélection naturelle, au sens où il a produit chez nos ancêtres hominidés des comportements qui leur ont permis de survivre et de se reproduire. Le cerveau humain, et dans une certaine mesure le cerveau de nos cousins et ancêtres primates, est composé d’un ensemble de sous-programmes ou « modules » qui chacun traite des informations spécialisées – et qui sont eux-mêmes les produits d’une sélection et non pas le produit d’une architecture cognitive opérant sur un domaine global. L’évolution du cerveau s’applique à tout ce qu’il produit, des comportements au langage et à la culture [1].

Sur cette base, les versions de la psychologie évolutionniste varient, selon le choix des unités de sélection et les types de mécanismes cognitifs. Si le cerveau est une collection de modules qui ont évolué, VO suppose qu’il y en a autant qu’il y a de dispositifs ayant conduit au succès des organismes. Par exemple, les animaux peuvent avoir un module de détection des tromperies ou, chez les primates et les humains, un module de lecture des états mentaux des autres membres de l’espèce (correspondant à l’aptitude nommée en sciences cognitives « théorie de l’esprit ») [2], ou encore un module de détection de la proportion entre la taille et les hanches qui chez les mâles humains permet de détecter les femelles. Les partisans de ce qu’on appelle la « modularité massive » soutiennent qu’il y a autant de modules qu’il y a de fonctions cognitives. Mais cette idée ne va pas de soi. Jusqu’à quel point les modules cognitifs sont-ils comparables à ceux qui permettent, comme la vision, de traiter l’information sensorielle ? Et jusqu’à quel point sont-ils spécialisés et autonomes, c’est-à-dire indépendants d’activités cognitives plus générales telles que la formation de croyances et le raisonnement ? Enfin, jusqu’à quel point sont-ils innés, comme VO le suppose la plupart du temps sur le modèle de la conception chomskyenne de la compétence linguistique (sur celle-ci, voir [3]) ?

Les variantes de VO peuvent aussi suivre les différentes formes de transmission et de produits culturels considérés. Si l’on cherche à appliquer directement aux produits de l’évolution culturelle la « pensée populationnelle » darwinienne, on peut proposer, comme l’a fait Richard Dawkins, une analogie entre la sélection et la reproduction des gènes et la sélection des idées ou des formes culturelles, comme des techniques ou des idées religieuses, baptisées « mèmes » [4, 5]. Mais l’analogie séduisante entre la reproduction génétique et la reproduction « mémétique » est très fragile : les gènes se transmettent de manière aveugle des parents aux enfants, alors que la reproduction culturelle d’habitudes ou d’idées se passe entre des groupes qui adoptent ces traits de manière intentionnelle. D’autres théoriciens, comme Dan Sperber et Pascal Boyer [6], ont proposé une métaphore épidémiologique, selon laquelle les mèmes se propageraient comme des virus selon les formes non linéaires et sans qu’il y ait besoin que les groupes porteurs du mème se reproduisent. Mais ces analogies demeurent spéculatives, particulièrement parce que le programme de VO suppose qu’on puisse établir une ligne d’explication sélectionniste continue des gènes aux organismes puis aux productions culturelles.

Une autre difficulté de VO est qu’elle présuppose la plupart du temps l’adaptationnisme, qui est la question « cui prodest ? » (« à qui / quoi cela profite-t-il ? ») appliquée à la biologie, c’est-à-dire l’idée que les mécanismes cognitifs à l’origine de la transmission culturelle ont été sélectionnés parce qu’ils ont conduit dans le passé à un avantage sélectif des organismes qui disposent de ces mécanismes pour accomplir certaines tâches. Cependant, un trait peut faciliter une adaptation (il est adaptatif) même si ce n’est pas la raison pour laquelle il a évolué. Par exemple, les tortues marines utilisent leurs pattes antérieures pour faire des trous dans le sable, où elles déposent leurs œufs. Les pattes sont donc utiles à l’adaptation consistant à faire son nid dans le sable, mais elles ne sont pas des adaptations pour cela, car les tortues possédaient des pattes bien avant de faire leurs nids dans le sable.

Stephen J. Gould et Richard Lewontin critiquèrent la psychologie évolutionniste car ils y décelaient un résidu de pensée téléologique [7]. Selon eux, tous les traits phénotypiques ne sont pas sélectionnés en fonction d’un but optimal et les mécanismes de sélection peuvent être variés et dus à des contingences. Pour cette raison, ils étaient pessimistes quant à la capacité de VO d’expliquer l’évolution culturelle.

Un optimisme en question

C’est pourtant la version optimiste de la psychologie évolutionniste qui prévaut chez des auteurs comme Steven Pinker qui, après avoir appliqué cette hypothèse au langage, l’a étendue à toutes les formes de cognition dans Comment fonctionne l’esprit [8]. Il y fait la synthèse, de manière parfaitement conforme à VO, entre la conception computationnelle de l’esprit (c’est-à-dire comme une articulation de modules implémentant chacun une capacité cognitive) et la conception néodarwinienne, qui délivrerait selon lui la promesse d’une théorie causale unifiée du niveau génétique jusqu’aux processus mentaux les plus élevés. Pinker a ensuite étendu cette vision optimiste à l’analyse de nos comportements sociaux et moraux, en suggérant que la violence et le crime étaient bien moins forts dans les sociétés humaines que par le passé [9]. Dans une synthèse que ne renierait pas le docteur Pangloss de Candide, dans Le triomphe des Lumières [10], il a soutenu que les sociétés contemporaines étaient devenues plus riches et plus sûres, et n’étaient pas loin d’avoir réalisé le progrès que l’époque des Lumières avait prédit à des êtres gouvernés par la raison, et que l’impression du contraire n’était due qu’à une perception faussée ou à une ignorance des statistiques globales sur le long terme. Ce progrès de la raison n’est autre, selon Pinker, que le lointain produit de l’évolution de la raison : la sélection naturelle nous a rendus progressivement plus intelligents, moins égoïstes, moins cruels et moins violents.

On peut cependant être convaincu que la biologie évolutionniste est l’outil le plus puissant dont on puisse disposer pour étudier le changement culturel et le progrès cognitif sans adopter VO ni la version la plus ambitieuse et la plus béate de la psychologie évolutionniste défendue par Pinker. D’autres chercheurs soutiennent que l’évolution culturelle se déroule sur des rythmes différents et avec des mécanismes distincts de ceux de l’évolution biologique : les sociétés humaines suscitent l’apparition de « gadgets cognitifs » [11] qui ne sont pas simplement le produit des mutations génétiques, mais aussi celui du développement et de l’apprentissage social [12]. Au modèle unifié de l’évolution culturelle de VO, ils opposent l’idée que la cognition opère bien plus souvent à partir d’heuristiques, par tâtonnements, que par des mécanismes uniformes.

Ces hypothèses semblent corroborées par les travaux de la psychologie cognitive, qui montrent que nous faisons des erreurs de raisonnement systématiques, et que nous sommes affectés par des biais et des décisions irrationnelles, qui font douter que la raison humaine ait la fiabilité qu’on lui prête ordinairement. Ces travaux vont aussi dans le sens de la psychologie évolutionniste quand ils montrent que nos capacités de raisonnement sont meilleures lorsque nos raisonnements sont moins abstraits et liés à des situations quotidiennes. Ainsi a-t-on noté que nos raisonnements avec des énoncés conditionnels (de la forme « Si A alors B ») sont bien meilleurs quand ils sont formulés sous la forme d’obligations et interdictions concrètes (« Si tu as moins de 18 ans, tu n’as pas le droit de boire de l’alcool dans un bar »), car il est très probable que, chez nos ancêtres hominidés, ils ont été émis fréquemment sous la forme « Si tu acquiers un bénéfice, tu dois payer le prix » que pouvait contrôler la communauté. Cela suggère que l’apprentissage du raisonnement est avant tout d’origine sociale [2].

La raison comme produit dérivé de l’interaction sociale

C’est à cette lignée de travaux récents qu’appartient le projet de Dan Sperber et Hugo Mercier, dans leur livre The Enigma of Reason [13], de fournir une théorie évolutionniste de la raison.
Installés en France, ils développent ce qu’on pourrait appeler une version française (VF) du programme VO. Ils adoptent la thèse de la modularité massive de la cognition, et posent la question : si la raison, entendue comme la faculté humaine de raisonner, est un module supposé contrôler notre raisonnement et qui a évolué, comment se fait-il qu’elle soit supposée être si puissante, alors qu’elle dysfonctionne ? Pour un programme marqué par l’adaptationnisme, c’est paradoxal. Les réponses usuelles consistent soit à nier que l’irrationalité apparente de nos performances menace notre compétence générale de raisonnement, soit à adopter l’idée que dans l’esprit humain coexistent deux systèmes, l’un rapide et automatique, lié à nos émotions et évolutionnairement ancien, et un autre lent et analytique, évolutionnairement plus récent, et que ce sont les frictions entre les deux systèmes qui expliquent nos erreurs et nos biais [14]. La réponse de Mercier et Sperber, quant à elle, est radicale : si l’on entend par « raison » un pouvoir de penser réflexivement et d’avoir un contrôle central sur nos mécanismes cognitifs d’inférence, alors la raison n’existe pas. Selon eux, VO est correcte pour nos systèmes modulaires de traitement de l’information, qui sont inconscients et automatiques, mais fausse si elle suppose que la raison est essentiellement une capacité individuelle consciente gouvernant les autres modules. La raison n’existe selon eux que socialement.

Les principes de VF sont les suivants. La raison, comme module et comme capacité de raisonnement individuel doté d’un pouvoir réflexif produisant des raisons d’agir et de croire, n’existe pas. Le raisonnement est une capacité de « consommation sociale » qui est effectuée par des processus façonnés par la sélection par le biais de l’interaction sociale et de l’argumentation publique au moyen du langage.

À l’appui de cette conception, Mercier et Sperber avancent que le raisonnement est défectueux quand il est solitaire, et bien meilleur quand il est effectué en groupe. Nous raisonnons et donnons des raisons non pas en nous conformant à des standards objectifs, mais en vue de nos intérêts propres et pour avancer notre propre point de vue, et nous n’atteignons de tels standards que quand nous sommes corrigés par les autres et en coopération avec eux. C’est notamment pourquoi nous sommes bien meilleurs pour évaluer les arguments des autres que pour produire les nôtres propres. Ces hypothèses sont plausibles et confortées par des données psychologiques [13, 15]. Mais Mercier et Sperber les associent à une conception radicale, selon laquelle ce que nous appelons des « raisons », quand nous entendons justifier nos croyances et expliquer nos actions, ne sont que des rationalisations que nous projetons après coup sur des processus de traitement de l’information qui échappent totalement à notre conscience.

Quelques objections à Mercier et Sperber

À cette version VF de la psychologie évolutionniste, on peut faire plusieurs objections. Tout d’abord, n’exagère-t-elle pas la faiblesse du raisonnement individuel et réflexif par opposition à l’argumentation en contexte social ? Mercier et Sperber moquent le mythe du savant génial et solitaire, mais on ne fait pas nécessairement de la moins bonne science ni de plus mauvais raisonnements en solo. Ils invoquent le fait que les gens qui font des erreurs de raisonnement ne sont pas nécessairement meilleurs quand ils ont appris à manier la logique et les statistiques, mais c’est aussi un fait qu’on peut apprendre ces disciplines et s’en servir pour améliorer nos capacités de raisonnement.

Ensuite, leur histoire est-elle évolutionnairement plausible ? Mis à part leurs résultats de tests psychologiques, leur reconstruction, comme celle de beaucoup de reconstructions des psychologues évolutionnistes, n’ont pas de bases paléontologiques ni neurobiologiques : les origines évolutionnaires de nos capacités cognitives ne sont que postulées, pas prouvées. Et pourquoi faudrait-il supposer que le raisonnement individuel et réflexif serait uniquement un sous-produit défectueux du raisonnement public via l’argumentation ? Pourquoi ce dernier n’aurait-il pas évolué en même temps et parallèlement à l’usage individuel et réflexif du raisonnement ?

De plus, la conclusion éliminativiste – la raison n’existe pas – repose sur une forme de surenchère : si la raison est un module parmi d’autres, comme le veut la thèse de la modularité massive, alors elle n’existe pas parce qu’il n’y a pas de tel module capable d’effectuer les tâches qu’on lui assigne. Mais pourquoi devrait-on accepter la thèse de la modularité massive et l’idée que la faculté de raisonner est un module ? Enfin, cette thèse éliminativiste est parfaitement contraire à l’intuition : nous avons bien, le plus souvent, l’expérience de raisonner de manière réflexive et consciente, en posant des prémisses et en tirant des conclusions. Cette expérience est-elle une pure illusion ? Mercier et Sperber insistent sur le fait que l’argumentation, à la différence de la logique, n’est pas gouvernée par la norme de la vérité et de la preuve, mais par l’efficacité et le souci d’acquérir de la réputation sociale et de devenir une autorité pour les autres. Quand nous raisonnons selon la logique, sommes-nous aussi victimes d’une illusion ?

D’autres lectures évolutionnistes sont possibles

Ces objections n’impliquent en rien qu’on revienne à la conception classique de la raison comme pouvoir réflexif d’articuler et de fonder nos raisons de croire et d’agir, ou encore qu’on revienne à un quelconque mythe de la raison toute puissante qui aurait inspiré les Lumières – que ses adversaires dépeignent souvent comme sûre d’elle-même et tyrannique, et dont un auteur comme Pinker donne une version enchantée. La raison modeste, celle qui permet de raisonner dans le sens commun et dans la science, n’est pas une illusion. Rien non plus n’interdit qu’elle soit un produit de l’évolution biologique en un sens plus banal et parfaitement compatible avec les théories plus sobres de l’évolution culturelle : nous avons acquis des schèmes rationnels de raisonnement parce qu’ils sont, dans l’ensemble, corrects et qu’ils ont augmenté notre succès biologique. La raison et le raisonnement pourraient bien être des « gadgets cognitifs » qui ont évolué et sont devenus propres à notre espèce, à la fois au niveau réflexif et au niveau du raisonnement public (voir par exemple [16]).