LA THEORIE DU CERVEAU TRIUNIQUE FAIT LA UNE

par Guy AUBOIRE*

Le cerveau triunique du Dr MacLean (1907-2007), chef du laboratoire de neurophysiologie de l’institut de santé mentale de Bethesda (Maryland), refait parler de lui ces temps-ci (voir l’article du journal Le Monde publié le 1er avril 2021). En effet, dans nombre de situations, notamment celles ayant conduit aux attentats sanglants de Paris en 2015, certains invoquent l’expression du cerveau reptilien quand il s’agit de comprendre la génèse des actes les plus barbares ou les plus « basiques ». Cette théorie a été toutefois rapidement contestée après son apparition dans les années 1960.

L’auteur admet lui-même, au début des années 1990, qu’il n’y a pas eu d’investigation neurocomportementale permettant de vérifier, chez l’Homme, le rôle du cerveau reptilien dans nombre de ces comportements archaïques. MacLean est accusé d’extrapolations sociologiques abusives sans fondement scientifique sérieux.

Rappelons, pour commencer, quelques traits majeurs de cette théorie.

Selon la théorie de MacLean, le cerveau humain se serait construit en 3 couches successives au cours de l’évolution : le cerveau reptilien, siège des comportements archaïques liés à la survie (nutrition, reproduction, défense du territoire…) ; le cerveau limbique, centre des émotions ; le néocortex, développé chez les Primates supérieurs et lié aux fonctions cognitives.

Schéma résumant la conception du cerveau triunique de MacLean

Critiques de la théorie de MacLean

Aspect paléontologique (1)
Le schéma du cerveau (2) triunique laisse supposer une mise en place par étape (Poissons, Reptiles, Oiseaux, Mammifères) des différents étages de l’encéphale (MacLean n’évoque dans sa réflexion que les étages reptilien, paléo-mammifère et mammifère). Un étage en recouvrirait un autre au cours de l’évolution. Les choses ne sont pas aussi simples. En fait, le schéma de construction de l’encéphale au cours de l’ontogénèse et de la phylogénèse est commun à tous les Vertébrés (3) : les vésicules embryonnaires sont les mêmes (au nombre de trois) et fournissent par différenciation les mêmes structures.

Ainsi, le rhombencéphale donnera des structures profondes comme le cervelet ou le tronc cérébral qui relie la moëlle épinière au reste du cerveau ; le mésencéphale évoluera vers des structures du cerveau moyen comme les pédoncules cérébraux ou le tegmentum et enfin le prosencéphale donnera les hémisphères cérébraux (cortex) et des structures sous-corticales comme le thalamus ou l’hypophyse. Répétons-le, ce schéma évolutif est commun à tous les Vertébrés.
Etudier l’encéphale d’un fossile vieux de plusieurs centaines de millions d’années n’est pas chose facile. L’encéphale ne se fossilise pas en lui-même car c’est un tissu mou. C’est l’empreinte interne qu’il laisse sur l’os crânien (moulage interne) qui peut être observé. Et même quand on en dispose, l’interprétation reste délicate comme par exemple chez les Reptiles chez qui le crâne est ouvert.

C’est donc à partir des représentants actuels, vivants, de chaque classe de Vertébrés qu’on peut apprécier l’évolution. L’observation d’encéphales de chaque classe de Vertébrés confirme les données de l’embryologie. Pour en revenir à notre sujet, les différents étages du cerveau triunique de la théorie de MacLean n’apparaissent pas en se superposant les uns aux autres. L’ensemble des structures encéphaliques apparaissent en même temps et chacune d’entre elles se développe plus ou moins. Ainsi, chez les Poissons, les hémisphères cérébraux ne sont pas différenciés (il s’agit d’une masse globuleuse, de taille réduite et surtout dévolus à l’olfaction). Au contraire, cervelet et lobes optiques sont particulièrement développés. On comprendra aisément ces particularités du fait de l’environnement dans lequel évoluent ces animaux. Chez les Reptiles, les hémisphères cérébraux prennent le pas sur les lobes optiques et le cervelet. Chez les Oiseaux, les hémisphères cérébraux prennent encore plus de place au détriment des lobes optiques mais le cervelet occupe un volume important. Chez les Reptiles et les Oiseaux, le cortex se développe vers l’intérieur, en remplissant le ventricule cérébral. Ce plan de construction « reptilien » limite l’augmentation du nombre de neurones. C’est chez les Mammifères que les hémisphères cérébraux se développent au maximum, recouvrant la totalité des autres structures encéphaliques. Chez eux, le cortex se développe vers l’extérieur du cerveau (plan de construction « mammalien »), permettant une plus grande augmentation du nombre de neurones.

Organisation générale de l’encéphale dans quatre classes de Vertébrés : A : Poissons ; B : Reptiles ; C : Oiseaux ; D : Mammifères

Il faut dire enfin quelques mots sur les notions de « paléocortex », d' »archicortex » et de « néocortex ». Comme on le sait, le cortex désigne les couches de cellules constituant la substance grise (celle qui traite l’information par opposition à la substance blanche qui conduit l’information) située en périphérie du cerveau mais aussi dans les noyaux sous-corticaux .
Le paléocortex correspond au cortex « ancien », formé de 3 à 6 couches de neurones et constituant l’enveloppe, le cortex du système olfactif. Il se met en place, au cours de l’ontogénèse, très tôt (2 à 3e mois chez l’embryon humain). L’archicortex compte 3 couches cellulaires et forme aussi le système olfactif et l’hippocampe entre autres. Le néocortex, constitué de 6 couches de cellules, se met en place plus tardivement (3 au 7e mois) et forme 90% du cortex humain. Là encore, on voit que ces trois types de cortex coexistent chez les tous les Vertébrés, y compris chez les Reptiles par exemple, contrairement à ce que suppose MacLean. Au passage, MacLean fait apparaître, dans sa théorie, le néocortex, avec la lignée humaine. Bien évidemment, il apparaît phylogénétiquement bien plus tôt par différenciation du pallium.

Aspect neurologique

Dans la théorie de MacLean, les trois étages décrits connaitraient une certaine indépendance les uns par rapport aux autres. Cette vision est aujourd’hui complètement abandonnée au profit de la notion de réseaux de neurones faisant intervenir de nombreuses structures cérébrales plus ou moins profondes.
D’une manière générale, les informations sensitives issues de l’ensemble du corps transitent via le bulbe rachidien (étage « reptilien du cerveau triunique de MacLean) vers le thalamus en direction des différentes zones spécialisées du cortex (étage supérieur de MacLean). De là, des informations sont renvoyées à d’autres zones corticales comme le cortex pré-frontal mais aussi vers des zones plus profondes comme le système limbique, siège de la mémorisation (étage intermédiaire de MacLean). Une partie non négligeable de ces informations repartent même en direction du bulbe ou de la moëlle dans un but peut-être modérateur. Notons que les données les plus récentes de la neurologie et de la neuropsychologie évoquent l’existence de « boucles » constituées de réseaux neuroniques qui pourraient expliquer la notion de conscience. L’interruption ou la perturbation de ces boucles par un traumatisme, une pathologie ou un problème dans leur mise en place et dans le fonctionnement des réseaux serait à l’origine de coma ou de psychoses graves.

Exemple de déroulement probable de la prise de conscience (extrait de La Recherche 2021)

D’une manière générale, des observations déjà anciennes (1938) montrent que les structures corticales exercent un rôle de contrôle et d’inhibition sur l’expression des structures plus profondes. Le rôle global du cortex est variable selon les groupes animaux étudiés : les rares expériences de décortication menées sur des chiens ou des chats sur plusieurs mois montrent le maintien d’activités réflexes : l’animal peut se déplacer mais seulement s’il y est incité. Les fonctions instinctives primaires sont conservées, les rythmes de sommeil aussi, de même que celles liées à la soif ou à la faim. La réaction à la stimulation douloureuse est majorée et violente. Il y a absence d’expression de sentiments. Quant aux rares expériences menées sur le singe, elles mènent rapidement à la mort. Dans l’espèce humaine, les cas d’anencéphalie (absence de cerveau à la naissance) se traduisent par la mort in utero ou bien à la naissance ou quelques jours après.

Exemple d’anencéphalie chez l’Homme

Mais comme l’entrevoyait de manière un peu caricaturale le Dr MacLean, on sait que les différentes zones de l’encéphale ont une fonction de spécialisation. Nous avons déjà cité le rôle de l’hippocampe dans la mémoire. Le thalamus intervient dans le sommeil. L’importance de l’hypothalamus a été souligné dans le comportement émotionnel. On trouve dans le tronc cérébral les centres de contrôle des fonctions essentielles comme la fonction cardio-respiratoire. Chacune des aires corticales a également un rôle particulier (aires motrices, sensorielles, d’association…).

Théorie de MacLean, plongée et schizophrénie

Ainsi, la théorie du cerveau triunique de MacLean souffre de beaucoup d’approximations ou d’extrapolations qui justifient son rejet global. Mais certains de ses aspects méritent d’être vus avec davantage d’indulgence : la notion de structures profondes et plus superficielles jouant chacune un rôle, la notion d’évolution du cerveau (avec les manques que nous avons soulignés), la mise en relation avec les pathologies mentales sont autant d’aspects qui pourraient être retenus au crédit du travail de MacLean.
Dans le travail publié en 2020 (voir sur le site, « Dans l’eau mon corps est rassemblé », article in extenso de la forme réduite publiée dans la revue Santé Mentale), nous établissions un lien entre la modification de la perception de l’environnement d’un psychotique schizophrène et son comportement de repli, de fuite.

Estimation de la perte neuronale dans le cortex d’adolescents en bonne santé et de schizophrènes

Nous faisions l’hypothèse que les dégâts occasionnés au cortex du malade entrainait la mise en place d’autres circuits impliquant un rôle plus important des structures sous-corticales et profondes, celles mêmes dominant dans les classes de Vertébrés les plus anciennes. L’ expression de ces structures, facilitées, seraient à l’origine de comportements régressifs, plus « primitifs » (peur, angoisse, fuite…).

Des circuits plus courts et plus « archaïques » entrainés par la maladie

On le voit, la remise en cause de la théorie de MacLean n’invalide pas nos hypothèses et nos interprétations au regard de l’idée de boucles de réseaux neuronaux.

(1) S’agissant des groupes taxonomiques, nous utiliserons pour les désigner leur nom commençant par une majuscule.
(2) Pour être clair en matière de terminologie, nous désignons par encéphale le contenu de la boîte cranienne et par cerveau les hémisphères cérébraux.
(3) Pour être plus rigoureux, les spécialistes parlent à présent des Crâniates et non des Vertébrés car il existe des Vertébrés sans…vertèbres !

Ouvrages consultés :

Collectif. Mille cerveaux, mille mondes. Nathan, MNHN 1999
Collectif. Dossier « La conscience ». La Recherche avril juin 2021
H. BROSSEAU, A. GUILLARD, G. AUBOIRE, JM. HEMMEN. Dans l’eau, mon corps est rassemblé. Santé Mentale juin 2020
E. BERTHOU. « Le cerveau reptilien », un livre sur un concept coriace et erroné. In Le Monde 1er avril 2021.
FURVES et coll. Neurosciences. De Boeck ed. 2003
KOLB, WHISHAW. Cerveau et comportement. De Boeck ed. 2002
G. LAZORTHES. L’histoire du cerveau. Ellipses 1999
J. MALMEJAC. Eléments de physiologie. Flammarion 1976

*docteur en anthropologie biologique et en paléontologie humaine.