Nella programmazione grafica per computer, un buffer stencil è un’area di memoria che può essere disegnata e utilizzata in relazione ad altri buffer grafici per ottenere effetti diversi o per mascherare aree di una scena in modo che non vengano elaborate o rese. Un buffer stencil è un buffer per pixel simile a un’immagine in bianco e nero, in cui ogni posizione nel buffer può contenere un valore che è spesso lungo al massimo 1 byte ma può essere piccolo come 1 bit. Il buffer è stato originariamente progettato per agire come una maschera vera o falsa, proprio come uno stencil del mondo reale, quindi le aree di una scena potrebbero essere oscurate o ignorate impostando i valori di diverse regioni del buffer dello stencil su un valore diverso da zero. Esistono numerosi usi per il buffer oltre al semplice mascheramento, incluso il disegno di un volume d’ombra, l’implementazione di aloni attorno agli oggetti o la localizzazione di aree in cui gli oggetti si sovrappongono l’uno all’altro. In molti casi, il buffer viene mantenuto nella memoria grafica su una scheda grafica in modo da potervi accedere rapidamente durante il rendering.
Il concetto di uno stencil buffer originariamente era un modo per creare una maschera bidimensionale (2D) che poteva essere applicata a una scena tridimensionale (3D) mentre i vertici si spostavano attraverso la pipeline grafica. Se la posizione del vertice 3D, una volta rasterizzata, fosse correlata a un’area del buffer dello stencil che non era impostata su zero, allora quel vertice potrebbe essere ignorato e il resto dell’elaborazione della pipeline saltata. Ciò ha consentito ai programmatori di eseguire il rendering solo di piccole parti di una scena o di eseguire il rendering di un’immagine in una finestra di forma irregolare, come un riflesso in un piccolo specchio all’interno di una scena più grande, in cui la forma dello specchio è disegnata come uno stencil buffer e quindi il riflesso viene disegnato attraverso quella forma.
I problemi di memoria hanno portato alla forma originale di un buffer stencil che era una griglia di valori a bit singolo in cui ogni pixel nel buffer poteva essere solo vero o falso. Con lo sviluppo delle schede grafiche, la maggior parte dei buffer è diventata in grado di contenere un valore di byte completo in ogni posizione dei pixel, consentendo ai programmatori di avere valori più complessi in una posizione. Ciò può consentire l’utilizzo del buffer per rilevare le aree in cui gli oggetti si sovrappongono, cosa che può essere eseguita aumentando il valore del buffer in una posizione se un oggetto occupa quel pixel sullo schermo quando viene rasterizzato. Dopo questa operazione, il valore di ogni posizione di pixel nel buffer sarà uguale al numero di oggetti che attraversano quel pixel su uno schermo.
Uno degli usi più popolari per un buffer stencil è la creazione di ombre di volume. Questo può essere fatto prima renderizzando una scena con un’illuminazione molto debole in modo che tutto sembri essere in ombra. Successivamente, vengono effettuati calcoli per determinare la posizione di tutte le superfici poligonali nella scena illuminate da una sorgente di luce e queste forme vengono trasferite allo stencil buffer. La scena viene nuovamente renderizzata come se ogni oggetto fosse completamente illuminato e si fondesse attraverso le forme dello stencil sulla scena in ombra, creando effettivamente un’immagine che sembra contenere oggetti con ombre.