Ce livre a pour objet une enquête sur le concept de rationalité collective. J'en analyserai quatre dimensions : celle des origines de la rationalité collective, celle de sa nature propre, celle de la modélisation rationnelle ou les formes données à une représentation rationnelle du "monde", et, enfin, la dimension des débats, classiques et moins classiques, que ce concept a soulevés au cours de l'histoire récente de la philosophie.

Voyons pour l'instant quelques thèmes liés à la question de l'origine de la rationalité collective et à celle de sa nature.

L'origine : mise en contexte

Dans un précédent ouvrage¹, je formulais une hypothèse qui, sans que je ne l'aie précisé à cette occasion, était en partie inspirée par ce qu'il est convenu d'appeler "l'hypothèse du cerveau social"², une hypothèse qui depuis ses premières formulations à la fin des années 1990, s'est développée en véritable programme de recherche animé par des chercheurs provenant d'horizons disciplinaires variés, telle la psychologie évolutionnaire, la psychologie cognitive, la paléoanthropologie, la primatologie, l'éthologie comparée, l'anthropologie, la paléontologie, etc. – sans oublier la philosophie. De cette liste sans prétention à l'exhaustivité, il faut surtout retenir ceci qu'elle reflète le caractère pluridisciplinaire d'une recherche ambitieuse destinée à comprendre et à expliquer un aspect particulier de l'évolution de l'être humain depuis que nos ancêtres se sont séparés du tronc commun nous liant aux primates supérieurs, il y a de cela quelques 5 millions d'années. Ce clivage entre nos deux espèces est remarquablement étayé par l'étude attentive et détaillée des fossiles des différentes espèces qui nous ont immédiatement précédés dans cette évolution, et par la mise en commun de ce que la géologie et la paléoclimatologie sont par exemple en mesure de nous enseigner quant aux qualités intrinsèques des systèmes écologiques dans lesquels nos ancêtres ont vécu à chaque étape de l'histoire de cette évolution. La contribution de la primatologie et de l'éthologie comparée sera de documenter minutieusement les types d'organisation sociale des primates supérieurs et inférieurs, et de considérer que ces structures sociales et comportementales ainsi observées fournissent d'importants indices sur celles dont, selon toute vraisemblance, nos ancêtres auraient pu être dotés en vertu de paramètres environnementaux, écologiques, etc., dont il importe de tenir compte pour procéder à une analyse offrant quelque profondeur; et ce, d'autant plus qu'il s'agit de comprendre les contraintes, toutes les contraintes écologiques qui ont pu agir de quelques influence que ce soit sur cette évolution dans le sens néo-darwinien du terme. L'une des difficultés rencontrées, toutefois, concerne le fait que les comportements des primates actuellement observables ont eux aussi évolué durant la même période, de sorte que tout observation de ces comportements sociaux et psychologiques ne peuvent être considérés sans autre procès, et une fois formalisés, comme des modèles fiables, mais plutôt comme des ensembles possibles d'analogies. D'où la méthode prudente avec laquelle les éthologues et les paléoanthropologues élaborent leurs hypothèses comparatives. Car c'est de l'histoire qui n'a pu s'écrire, et au sens propre du terme, dont il s'agit après tout.

Ce que dit l'hypothèse du cerveau social, c'est que les structures sociales, qui y sont envisagées sous l'angle de contraintes écologiques en tant que telles, et en particulier que les contraintes imposées à la taille du groupe social, sont l'émersion³ de la capacité du traitement de l'information du cerveau des primates, et en particulier de la capacité du néocortex. Dunbar (op. cit) énonce l'hypothèse en des termes ouvertement computationnels⁴. Et ce choix de méthode de modélisation théorique est tout à fait légitime, car celle-ci convient au traitement des données qui sont présentées dans son étude. Or, il ne peut être question pour le moment d'entrer dans les détails de cette hypothèse et d'en analyser les présupposés méthodologiques et les implications épistémologiques qu'elle soulève assurément. Mais à son libellé, on remarque que Dunbar laisse relativement ouverte la question de savoir comment, de quelle manière et en vertu de quoi les relations – qui ne peuvent être qu'analytiques étant donné qu'il s'agit d'un mécanisme inobservable per se – entre le développement du néocortex chez les primates et l'émersion des contraintes sociales observables dans les groupes de primates actuels et de celles qu'il est possible de tirer analytiquement à partir du modèle de la société de primates comparé aux données obtenues par l'analyse des données fossiles; est donc ouverte la question de savoir comment ce système d'interactions entre la socialité et le néocortex, entre le groupe social et l'individu, peut être décrit; et de ces descriptions comment peut-on espérer en tirer quelque conclusion quant à l'évolution des diverses facultés de la cognition humaine.

Or, dans les années 1960, le paléontologue Français André Leroi-Gourhan avait formulé des hypothèses concernant ces rapports, et ses études – toujours d'une grande actualité en dépit du fait qu'il leur manque de pouvoir dialoguer avec la primatologie qui à cette époque commençait seulement de se redéfinir comme science de l'observation des comportements et de la culture primate – appuient une thèse générale de l'existence, parmi d'autres étudiées aussi, d'une cause exogène et sociale associée au développement du cortex cérébral, de ses aires spécialisés de la motricité et du langage en particulier, depuis les premiers hominidés jusqu'à l'homme moderne. Cette cause est étudiée comme une adaptation de l'espèce au cours de son évolution, sans considération quant à quelque finalité que ce soit – l'homo sapiens n'y est surtout pas considéré comme une forme de télos. L'acquisition de la bipédie aurait coïncidé avec l'élargissement du cerveau dans sa partie néocorticale surtout, explicable par des raisons mécaniques, mais aussi par des raisons de manipulation technique de plus en plus avancée compte tenu des conditions de vie des peuplades. Ce modèle causal est évolutionnaire et cela implique nécessairement qu'il comprenne cette dimension de la "dialectique" de l'intégration et de l'adaptation dont parlait Piaget. Cet aspect de sa théorie a été très critiquée; mais je suis d'avis qu'il s'impose de la revoir avec sérieux et attention compte tenu des avancées de ces sciences fédérées maintenant sous les objectifs épistémologiques d'une paléoanthropologie évolutionnaire et dont nous disposons dorénavant.

La thèse de Leroi-Gourhan était extrêmement audacieuse en ces années maintenant lointaines, et reposait sur un ensemble de vérifications matérielles des artefacts disponibles et de mesures anthropométriques précises des fossiles – méthode qui a même semblé à certains totalement dénuée de fondement, alors qu'elle s'y révèle pourtant fort efficace et surtout probante eu égard à l'argumentation générale⁵. Mais l'essentiel de l'incompréhension dont elle a été l'objet provient me semble-t-il de ce qu'à l'époque, la thèse de Leroi-Gourhan impliquait une vision, une philosophie et une épistémologie hors normes : on y trouve en effet les ingrédients d'une épistémologie cognitiviste, voire les débuts d'une paléoneurologie, qui n'ont par ailleurs connu elles-mêmes de reconnaissance importante et élargie qu'à partir de la fin des années 1980, époque de l'apparition de ce que l'on appelle depuis le "tournant cognitif", succédant au "tournant linguistique" et au "tournant informationnel", le dernier de ceux-ci étant par ailleurs supposé intégrer ses deux prédécesseurs, ce qui est loin d'être une thèse parfaitement juste et justifiée épistémologiquement parlant. Tout le problème de la modélisation, sur lequel je m'étendrai plus longuement, concerne ici le fait de la reconstruction historique à partir d'hypothèses validées grâce à l'étude d'un petit nombre de documents archéologiques, se pose avec acuité chez Leroi-Ghouran. Mais les chercheurs actuels sont eux aussi aux prises avec les mêmes difficultés, ils ont aujourd'hui encore recours à des modèles comparatistes dont plusieurs données proviennent des patients travaux des primatologues⁶, mais les instruments informatiques comme les logiciels de simulation multi-agents, sont de plus en plus utilisés afin, justement, de tester des hypothèses scientifiques – dont l'usage de plus en plus courant dans les sciences humaines et sociales témoigne en fait de plusieurs changements méthodologiques importants.

La nature de la rationalité

C'est avec en arrière-fond ces ensembles fascinants de connaissances scientifiques que ce livre est écrit. J'y entre en discussion avec ces scientifiques afin de mieux comprendre, avec eux, le sens d'un concept éminemment philosophique, mais dont les résonances dans les sciences sociales et les sciences cognitives sont fortement accentuées de préjugés ou à tout le moins de postulats inutiles et surtout dommageables. La thèse que je défends, et qui était, comme je le rappelais plus haut, énoncée sous la forme d'une hypothèse spéculative dans mon Petit traité de l'erreur, est à l'effet que la rationalité humaine (distincte à mon avis de la rationalité animale et pour des raisons que j'aurai tôt fait d'exposer) s'est développée en une seule forme de rationalité qui par définition est collective ou sociale. Mais non seulement, car je défendrai aussi la thèse secondaire que la rationalité humaine est en soi un mécanisme d'adaptation et de coordination des membres d'un groupe. L'enjeu sera d'expliquer ce mécanisme de manière à rendre compte tant de la rationalité humaine à son origine que de son évolution jusqu'à nous.

Ainsi, la rationalité est unitaire, non pas multiple : il n'y a pas de rationalité économique distinctement clivée d'une rationalité axiologique. "Économique", "axiologique", ou tout autre qualificatif ne sont quant à moi que des prédicats appartenant à une seule et même catégorie : la rationalité (humaine). En tant que mécanisme d'adaptation et de coordination sociale, celle-ci se trouve, sans que cela ne surprenne, agissante au sein des nombreuses sphères de l'activité sociale. Avec la complexification des sociétés, il va de soi que la rationalité ait trouvé un plus grand nombre de "niches" où se manifester – même dans l'art qui est pourtant le plus souvent décrit comme le lieu par excellence de l'irrationalité (ce qui est une posture esthétique et non un constat empirique).

Mais j'entends déjà des voix s'élever et décrier ce qu'elles auront tout de suite précipitamment et faussement compris de ce projet, même s'il n'est pas encore suffisamment décrit ni dans ses buts, ni dans sa méthode. Ces hauts cris voudront associer à ce projet quelque idée d'une philosophie qui n'en est pas une sauf dans ses prétentions, je veux parler ici de l'idée de l'"intelligence" dite collective. Je tiens à préciser que les thèses de l'intelligence collective ou de l'intelligence sociale ne seront pas étudiées dans ce livre, ou si peu, et seulement pour en faire ressortir les caractères radicalement aporétiques ou invraisemblables. En un mot, je tiens ces thèses pour de pures spéculations métaphysiques sans commune mesure avec une science de l'évolution biologique et neurocognitive, une science de l'évolution socioanthropologique, et avec une philosophie prudente sur les plans épistémologique et normatif. Ces thèses affirment l'existence d'un ordre de phénoménalité – d'une ontologie au sens classique – entièrement déduit de principes a priori. Ce sont des thèses qui certes font vendre des livres, mais qui n'ont autrement pas beaucoup d'intérêt, sinon, encore une fois, pour mettre en relief et mieux rejeter ensuite leurs prétentions irréconciliablement contraires à la science et à la philosophie actuelles.

Or, les sciences cognitives autant que la philosophie spéculative d'obédience linguistique, informationnelle, ou autre, ont en général accepté une thèse qui sert à définir la rationalité selon deux modes : un mode observationnel et descriptible en termes observationnels, et un mode formel exposant les relations logiques entretenues entre les éléments de la définition et entre ces éléments et d'autres qui sont quant à eux parties prenantes d'une théorie plus générale du comportement ou de la cognition humaine. Ce second aspect de la définition est certes associé à la question de la modélisation de ce que l'on entend par "rationalité" selon ses contextes d'apparition, mais on peut d'ores et déjà en comprendre que tout formalisme est ici requis dans la mesure où il est un postulat selon lequel l'observabilité de la rationalité dans des comportements animaux ou humains, n'est explicable que si et seulement si cette explication vise à ajouter à une théorie générale de la cognition (ou du comportement au sens non behavioriste du terme) l'élément moteur de cette théorie : toute cognition ou tout comportement d'apprentissage, ou toute interaction sociale sont normativement analysés comme étant régulés par la rationalité des agents observés. En ce sens, tout ce qui n'est pas normativement jugé rationnel, pourra dès lors être considéré asocial, amoral, en un mot : irrationnel. Un tel présupposé entend la figure de l'être humain (ou de l'animal rationnel à cet égard) et la forme de la socialité comme des catégories naturelles nécessaires, bien que non nécessairement suffisantes, à une science générale de l'homme et de la société.

Je tâcherai de démontrer que si ma thèse est juste, si la rationalité est descriptible et explicable en tant que mécanisme d'adaptation sociobiologique, alors la nature de la société ne peut donc être posée dans ces termes-là : la rationalité apparaîtra donc comme une faculté aux yeux de l'observateur uniquement. La nature prédicative de la description de la rationalité fournit déjà un bon indice que cela est sans doute le cas. Et cela veut aussi dire que ma théorie de la rationalité n'est pas logiquement réductible à une théorie de l'esprit au sens maintenant classique en philosophie de l'esprit, mais qu'elles sont toutes deux liées par le biais formel de leur description.

La question des modèles de la rationalité

Or, si la rationalité est par définition collective ou sociale, en tant que mécanisme adaptatif, et si, nous concernant directement, elle a pour mode d'émersion l'évolution de l'espèce primate, comment en analyser les détails sans référer à la science qui prend pour objet l'évolution de cette espèce? Comment ne pas réexaminer de cette science les modèles et les explications? Ces questions soulèvent éminemment d'importants problèmes qui s'adressent au philosophe des sciences, et il en sera question tout le long de l'ouvrage. Si je réserve donc mes réponses pour des passages qui les exposeront ultérieurement, je dirai immédiatement que mon espoir est ici encore de proposer des pistes de réflexion qui pourraient être intégrées aux débats ayant cours dans ces domaines et dans les sciences sociales avec lesquelles j'entretiens depuis un certain temps un dialogue quasiment ininterrompu. Car, comme on le verra, entre les sciences de l'évolution de l'espèce et les sciences sociales, il y a des liens qu'il importe de bien analyser dans le but d'un enrichissement mutuel. Cela ne peut ni ne doit être fait n'importe comment. Mais il existe des approches de la modélisation dans les premières et dans les secondes qui me paraissent complémentaires.

S'agissant cependant de la rationalité, on sait que ce concept a connu divers traitements au cours de l'histoire de la philosophie; mais c'est aussi un concept des sciences sociales; et, qui plus est, c'est aussi un concept qui a connu, depuis plus de soixante ans, un traitement mathématique. Il suffira à cet égard de se rappeler quelle place ce concept occupe dans les théories économiques et sa philosophie, comme dans les théories de la décision. Le concept de rationalité est multivalent. En fait, l'épistémologie particulière qui s'est développée à partir des thèses cybernéticiennes fondatrices des sciences dites de l'information et de la communication, auxquelles le mathématicien John von Neuman a contribué avec génie, a placé ce concept au centre de son projet. Mais cette place est assez étrangement instable, dans la mesure où la définition canonique qu'on en fournit généralement relève d'un a priori ou d'un postulat philosophique typique d'un certain pragmatisme hérité de la culture anglo-saxonne, autant que d'un certain rationalisme qui refuse cependant d'être identifié et nommé. La rationalité est, dit-on alors, ce qui se remarque dans une action orientée vers un but, qui, sans être nécessairement décelable dans l'action avant que celle-ci n'ait lieu, est ce qui se déduit de la relation entre l'intention de l'action et le résultat visé, qu'il soit obtenu ou non⁷. Il est en effet difficile de procéder à l'analyse du concept de rationalité sans tenir compte des opérations formelles qui sont impliquées dans toute manifestation concrète des facultés cognitives qui la soutiennent : pour le regard classique posé sur ce concept, l'ordre formel et l'ordre empirique s'entremêlent, l'un et l'autre se déployant quasi putativement grâce aux appuis qu'il trouve – peut-être? – chez son correspondant. Car, suppose-t-on encore plus en amont, la rationalité peut expliquer pas mal de choses, et ces choses se ramènent à l'ordre du faire; ce n'est pas tant le but ou le résultat de l'acte qui compte, mais plus fondamentalement le fait que l'action ait lieu, qu'elle se réalise. La rationalité y est donc comprise comme l'ensemble des conditions disposant un système⁸ quel qu'il soit à planifier des actions ou des séries d'actions à entreprendre. Cette planification est un calcul, son but étant le résultat concret de ce calcul⁹. La notion de calcul ou de computationnalité a imprégné notre manière de nous représenter, du moins dans les sciences cognitives, sociales et en philosophie, ce que veut dire agir, produire une action. Je vais procéder à quelques études de ces divers aspects du concept de rationalité et, après les avoir critiqués, j'indiquerai ce qui m'apparaîtra pouvoir être retenu et pour quelles raisons.

Mais l'on ne saurait discuter de ces aspects de la rationalité dans un tel cadre théorique en en exposant les dimensions anthropologiques – qui en fait formule l'hypothèse de la fonction de coordination sociale de la rationalité –, sans regarder de près les modèles formels que l'anthropologie et la paléoanthropologie proposent de leurs objets. En particulier, les modèles qui ont pour vocation d'expliquer non seulement l'établissement des structures sociales comme les systèmes de parenté, mais leur rôle actif dans la perpétuation de l'espèce humaine en dépit des nombreux défauts ou des nombreuses faiblesses reconnues de l'individu face à son environnement (ne serait-ce que la très grande dépendance des enfants envers leurs parents jusqu'à un âge assez avancé, et qui nous distingue de nombreux mammifères, y compris des primates même si ceux-ci connaissent le même désavantage, mais à un moindre degré que chez l'humain). Ces modèles formels de la parenté et de son organisation nous permettront de regarder et de comprendre le rôle de la coordination sociale que l'on peut attribuer à l'un ou à l'autre aspect de la socialité. Or, la rationalité, prétextera-t-on, en tant que faculté cognitive, n'est pas un système social au même titre que le système de parenté. Vraiment? En tous les cas, la question se pose à partir du moment où je situe ma thèse sur le plan sociocentrique, et non sur le plan psychologique.