Die Molekularorbitaltheorie oder MO-Theorie ist eine Methode zur Erklärung der Bindung zwischen Atomen in Bezug auf Elektronen, die um ein Molekül verteilt und nicht um die Atome herum lokalisiert werden, im Gegensatz zur Valenzbindungstheorie oder VB-Theorie. Elektronen in Atomen sind in Orbitalen innerhalb von Unterschalen innerhalb von Schalen angeordnet. In der Regel sind es die Elektronen in den Orbitalen der äußersten Schale, die an der chemischen Bindung beteiligt sind, obwohl es hiervon Ausnahmen gibt. Ein Orbital kann maximal zwei Elektronen enthalten, die entgegengesetzte Spins haben müssen. In der Molekülorbitaltheorie verbinden sich die Atomorbitale der Bindungselektronen, wenn zwei Atome eine chemische Bindung eingehen, zu Molekülorbitalen mit ähnlichen Regeln bezüglich der Anzahl und des Spins der Elektronen.
Elektronen können sich wie alle subatomaren Teilchen wie Wellen verhalten. Anstatt zu einem bestimmten Zeitpunkt einen bestimmten Punkt im Raum zu besetzen, wird ein Elektron über alle seine möglichen Orte um den Atomkern verteilt und seine Position kann nur durch Wahrscheinlichkeiten ausgedrückt werden. Mit einer vom Physiker Erwin Schrödinger entwickelten Gleichung lässt sich die „Wellenfunktion“ eines Atomorbitals bestimmen, die anhand einer Elektronendichteverteilung die Wahrscheinlichkeit angibt, ein Elektron an verschiedenen Orten um den Kern herum zu finden. Die Molekülorbitaltheorie erklärt die Atombindung, indem sie die Wellenfunktionen der an der Bindung beteiligten Atomorbitale addiert, um die Wellenfunktionen für Molekülorbitale zu erhalten, die das gesamte Molekül umschließen.
Da die Wellenfunktionsgleichung sowohl positive als auch negative Werte liefert, die als Phasen bezeichnet werden, werden zwei Molekülorbitale erzeugt. Im ersten werden die Atomorbitale in Phase addiert – positiv-positiv und negativ-negativ. Der zweite Typ ist einer, bei dem sie phasenverschoben sind – negativ-zu-positiv und positiv-negativ.
Die phasengleiche Addition ergibt ein Molekülorbital, dessen Elektronendichte im Raum zwischen den Kernen konzentriert ist, wodurch sie näher zusammengebracht werden und eine Konfiguration mit einer niedrigeren Energie als die beiden ursprünglichen Atomorbitale zusammen ergeben. Dies wird als Bindungsorbital bezeichnet. Die phasenverschobene Addition führt dazu, dass die Elektronendichte vom Raum zwischen den Kernen weg konzentriert wird, sie weiter auseinander zieht und eine Konfiguration mit einem höheren Energieniveau als die Atomorbitale erzeugt. Dies wird als anti-bindendes Orbital bezeichnet. Elektronen aus den an der Bindung beteiligten Atomorbitalen werden es vorziehen, die bindenden Molekülorbitale mit niedrigerer Energie zu füllen.
Um die Art der Bindung zwischen zwei Atomen zu bestimmen, wird die „Bindungsordnung“ berechnet als: (bindende Elektronen – antibindende Elektronen)/2. Eine Bindungsordnung von null bedeutet, dass keine Bindung stattfindet. Im Vergleich dazu bedeutet eine Bindungsordnung von 1 eine Einfachbindung, 2 und 3 Doppel- bzw. Dreifachbindungen.
Als sehr einfaches Beispiel lässt sich die Bindung zweier Wasserstoffatome molekularorbitaltheoretisch beschreiben. Jedes Atom hat nur ein Elektron, normalerweise im Orbital mit der niedrigsten Energie. Die Wellenfunktionen dieser Orbitale werden addiert, was ein bindendes und ein antibindendes Orbital ergibt. Die beiden Elektronen füllen das bindende Orbital mit niedrigerer Energie, ohne Elektronen im anti-bindenden Orbital. Die Bindungsordnung ist daher (2 – 0)/2 = 1, was eine Einfachbindung ergibt. Dies stimmt mit der VB-Theorie und der Beobachtung überein.
Die Wechselwirkung zweier Atome des nächsten Elements im Periodensystem, Helium, ergibt ein anderes Ergebnis, da sich in jedem Heliumatom zwei Elektronen in einem Orbital befinden. Wenn die Wellenfunktionen hinzugefügt werden, entsteht wie bei Wasserstoff ein bindendes und ein antibindendes Orbital. Diesmal sind jedoch vier Elektronen beteiligt. Zwei Elektronen füllen das bindende Orbital und die anderen beiden müssen das höherenergetische antibindende Orbital füllen. Die Bindungsreihenfolge ist diesmal (2 – 2)/2 = 0, sodass keine Bindung stattfindet. Dies stimmt wiederum mit der VB-Theorie und mit der Beobachtung überein: Helium bildet keine Moleküle.
Die Molekülorbitaltheorie sagt auch Doppel- und Dreifachbindungen für Sauerstoff- bzw. Stickstoffmoleküle korrekt voraus. In den meisten Fällen stimmen MO-Theorie und Valenzbindungstheorie überein; Erstere erklärt jedoch Moleküle, bei denen die Bindungsordnung zwischen einer Einfach- und einer Doppelbindung liegt, und die magnetischen Eigenschaften von Molekülen besser. Der Hauptnachteil der Molekülorbitaltheorie besteht darin, dass die Berechnungen, abgesehen von sehr einfachen Fällen wie den oben genannten, viel komplizierter sind.