La criptografía del sistema es la práctica de utilizar el cifrado para ocultar información en una computadora. El nivel de sofisticación de dicha criptografía ha aumentado con el tiempo, pero aún varía mucho. Microsoft utiliza la frase criptografía del sistema en algunas ediciones de Windows para una configuración que puede establecer los niveles de seguridad de una computadora para cumplir con los estándares oficiales para las computadoras gubernamentales.
Las primeras formas de criptografía, mucho antes de las computadoras, simplemente implicaban reemplazar letras individuales con letras de código siguiendo un patrón consistente. Otros sistemas involucraban el uso de palabras de código para reemplazar comandos particulares o información. Estos tenían la ventaja de que funcionaban de forma sencilla y eran fáciles de usar si el destinatario conocía el sistema de código que se estaba utilizando, pero eran difíciles de descifrar para los lectores no autorizados.
Sin embargo, estos sistemas no son adecuados para la tecnología informática. Esto se debe a que descifrar el sistema de cifrado, también conocido como algoritmo o cifrado, es un proceso largo pero no complicado. Por ejemplo, si un sistema reemplaza cada letra por otra en el alfabeto, se puede resolver simplemente probando cada posibilidad hasta que se encuentren tanto el sistema como el mensaje cifrado. Esto llevaría demasiado tiempo para que la mayoría de los humanos se molestaran, pero es una tarea que una computadora podría realizar muy rápidamente.
La criptografía de sistemas modernos funciona en gran medida en líneas similares, pero utiliza algoritmos mucho más complicados. Esto aumenta enormemente el tiempo que le toma incluso a una computadora descifrar el algoritmo. Un problema que persiste es que el rápido ritmo de mejora en la potencia y la velocidad de la computación significa que los algoritmos que alguna vez parecieron tan complejos que nunca podrían ser superados, terminen obsoletos. Algunos algoritmos incluso han sido descifrados por un banco de consolas de juegos.
Quizás el desarrollo más significativo en la criptografía de sistemas es el desarrollo de los sistemas de claves públicas y privadas. Anteriormente, alguien que encriptaba información tenía que proporcionar el algoritmo de encriptación, o «clave», al destinatario previsto. Si esto fuera interceptado por un pirata informático junto con la información, les resultaría mucho más fácil descifrar los datos.
El sistema moderno implica que el destinatario crea los algoritmos, no el remitente. El destinatario crea una clave pública que dice cómo se deben codificar los datos y una clave privada asociada que dice cómo se debe decodificar ese cifrado en particular. Proporcionan la clave pública al remitente, quien luego encripta los datos según lo solicitado. En este punto, solo el destinatario puede descifrar los datos.
Windows XP y sus sucesores incluyen configuraciones personalizables para la criptografía del sistema. El más notable es «compatible con FIPS». Esto significa Federal Information Processing Standard, un conjunto de reglas que deben seguirse en los sistemas informáticos utilizados por las agencias federales. Las reglas requieren que se aprueben algoritmos de cifrado individuales para su uso según el estándar.