Le cerveau reptilien, selon une théorie classique de la science du cerveau, a des structures correspondantes dans le cerveau des mammifères, y compris les humains. Selon la théorie du « cerveau trinitaire », le cerveau reptilien, concerné par l’instinct et la survie, s’est développé pour la première fois dans l’histoire de l’évolution. Des créatures telles que les mammifères ont développé des structures cérébrales plus complexes sur la base du cerveau reptilien, permettant la pensée, l’émotion et la conscience de soi. Des études sur le cerveau ont depuis montré que la théorie du cerveau trinitaire est au mieux simplifiée ; cependant, il reste populaire auprès des médias et du grand public.
Au cours des années 1960, les recherches du neuroscientifique et médecin Paul D. MacLean sur les structures cérébrales ont révélé que les noyaux gris centraux, un groupe de structures à la base du cerveau humain, ressemblaient au cerveau des lézards et d’autres reptiles. Ceci, associé à la connaissance que les noyaux gris centraux sont fortement impliqués dans les fonctions motrices, a conduit MacLean à croire que le développement du cerveau correspondait au développement évolutif. Les reptiles se sont d’abord développés dans l’histoire de l’évolution, suivis des mammifères puis des humains. Il a donc estimé que le cerveau pouvait également être divisé en sections en fonction de la complexité du développement.
Dans la théorie de MacLean, les noyaux gris centraux, qu’il appelait le cerveau reptilien, contrôlaient les instincts les plus bas tels que l’agressivité et la territorialité, un comportement qui peut être observé chez les reptiles ainsi que les mammifères, y compris les humains. Les structures cérébrales intermédiaires, qu’il appelait le «système limbique», contrôlaient les fonctions supérieures nécessaires à l’élevage des jeunes mais n’étaient pas nécessaires chez les reptiles, qui pondent généralement des œufs plutôt que de donner naissance et d’élever des jeunes vivants. Le néocortex, que l’on ne trouve que chez les mammifères supérieurs, a permis le développement du langage, du raisonnement et de la pensée consciente chez l’homme.
Des découvertes ultérieures en sciences du cerveau et des animaux ont montré que la théorie du cerveau trinitaire n’est pas un modèle précis. Des créatures comme les oiseaux, par exemple, sont capables d’utiliser des outils et un langage rudimentaires, malgré leur absence de néocortex. Certaines fonctions cérébrales que l’on croyait autrefois contrôlées par le cerveau reptilien ont depuis été découvertes comme impliquant diverses zones du cerveau. Le développement évolutif n’est pas non plus aussi simple qu’on le pensait, ce qui remet en cause le modèle de développement de MacLean.
Le cerveau trinitaire et le cerveau reptilien restent des éléments de la culture populaire et des croyances sur les fonctions cérébrales. Le best-seller de vulgarisation scientifique de l’astrophysicien Carl Sagan « Les dragons d’Eden » a largement exposé la théorie du cerveau trinitaire au cours des années 1970. Dans son roman graphique révolutionnaire “Elektra Assassin”, le dessinateur de bandes dessinées Frank Miller a donné à son personnage Elektra la capacité de fonctionner uniquement avec son “cerveau reptilien”, lui permettant d’agir instinctivement et impitoyablement en présence de danger.