In un tipico computer, realizzato secondo la cosiddetta architettura di Von Neumann, i banchi di memoria vivono in un modulo isolato. C’è un solo processore, che elabora le istruzioni e la memoria le riscrive una per una, utilizzando un’architettura seriale. Un approccio diverso all’informatica è la rete neurale. In una rete neurale, composta da migliaia o addirittura milioni di singoli “neuroni” o “nodi”, tutta l’elaborazione è altamente parallela e distribuita. Le “memorie” sono immagazzinate all’interno delle complesse interconnessioni e ponderazioni tra i nodi.
La rete neurale è il tipo di architettura informatica utilizzata dai cervelli animali in natura. Questo non è necessariamente perché la rete neurale è una modalità di elaborazione intrinsecamente superiore rispetto al calcolo seriale, ma perché un cervello che utilizza il calcolo seriale sarebbe molto più difficile da evolvere in modo incrementale. Le reti neurali tendono anche a gestire i “dati rumorosi” meglio dei computer seriali.
In una rete neurale feedforward, un “livello di input” pieno di nodi specializzati acquisisce informazioni, quindi invia un segnale a un secondo livello in base alle informazioni ricevute dall’esterno. Questa informazione è solitamente un segnale binario “sì o no”. A volte, per passare da un “no” a un “sì”, il nodo deve sperimentare una certa soglia di eccitazione o stimolazione.
I dati si spostano dal livello di input ai livelli secondario e terziario e così via, fino a raggiungere un “livello di output” finale che visualizza i risultati su uno schermo affinché i programmatori possano analizzarli. La retina umana funziona sulla base di reti neurali. I nodi di primo livello rilevano semplici caratteristiche geometriche nel campo visivo, come colori, linee e bordi. I nodi secondari iniziano ad astrarre caratteristiche più sofisticate, come movimento, trama e profondità. L’”uscita” finale è ciò che la nostra coscienza registra quando osserviamo il campo visivo. L’input iniziale è solo una complessa disposizione di fotoni che significherebbe poco senza l’hardware neurologico per dargli un senso in termini di qualità significative, come l’idea di un oggetto duraturo.
Nella retropropagazione delle reti neurali, gli output dei livelli precedenti possono tornare a quei livelli per limitare ulteriori segnali. La maggior parte dei nostri sensi funziona in questo modo. I dati iniziali possono suggerire un'”ipotesi plausibile” al risultato finale, seguita dall’analisi dei dati futuri nel contesto di tale ipotesi plausibile. Nelle illusioni ottiche, i nostri sensi fanno ipotesi plausibili che si rivelano sbagliate.
Invece di programmare le reti neurali in modo algoritmico, i programmatori devono configurare una rete neurale con un training o una delicata sintonizzazione dei singoli neuroni. Ad esempio, l’addestramento di una rete neurale per riconoscere i volti richiederebbe molte sessioni di addestramento in cui sono stati mostrati alla rete diversi oggetti “simili al volto” e “non facciali”, accompagnati da feedback positivi o negativi per convincere la rete neurale a migliorare le capacità di riconoscimento.