Existe una diferencia importante entre dos de los formatos principales (procesadores escalares y de matriz) en los que un sistema informático procesa la información. Mientras que los procesadores escalares trabajan en un elemento de datos a la vez, los procesadores de matriz pueden abordar múltiples flujos de datos simultáneamente. Ambos procesadores, sin embargo, son parte de la unidad central de procesamiento (CPU), que controla todas las acciones de una computadora y puede manejar todos los tiempos de los datos. Los procesadores escalares y de matriz realizan muchas de las mismas operaciones, pero de una manera diferente, haciendo que cada una sea adecuada para un propósito diferente y asegurándose de que se puedan realizar todas las funciones, desde la más simple hasta la más compleja.
Los procesadores de matrices aplican una sola instrucción a múltiples matrices o matrices de datos simultáneamente antes de pasar a la siguiente instrucción. Esto permite que los procesadores de matriz funcionen mucho más rápidamente porque el procesador no necesita esperar a que se ejecute el primer conjunto de instrucciones en un elemento antes de pasar al siguiente. Muchos de los pasos necesarios para realizar una operación se eliminan porque la computadora recupera varios elementos al mismo tiempo, realiza la operación en todos ellos y luego los reescribe en la memoria, en lugar de repetir los pasos con cada nuevo dato.
Los procesadores escalares operan en un elemento de datos a la vez antes de pasar al siguiente elemento. Cada instrucción debe llevarse a cabo en el elemento actual antes de pasar a la siguiente instrucción. Al final del ciclo, el conjunto de instrucciones se realiza en el siguiente elemento en secuencia. Casi todas las CPU del mercado masivo son escalares, aunque pueden tener elementos que funcionan más como procesadores de matriz.
Las supercomputadoras de las décadas de 1980 y 1990 se diseñaron para procesar grandes cantidades de datos utilizando datos múltiples de una sola instrucción. Los procesadores de matrices hicieron posible manipular datos científicos y de investigación en un tiempo más corto. Aunque puede parecer intuitivo que los procesadores de matriz manejarían todas las funciones de la CPU más rápido que los procesadores escalares, este no es el caso. Los procesadores de matriz pueden manejar de manera eficiente grandes cantidades de datos, pero dado que la función requiere que la CPU sea más compleja, las operaciones más simples son más difíciles de realizar.
Las diferencias entre los procesadores escalares y de matriz se hicieron menos pronunciadas con la introducción de los microprocesadores en 1994. Desde entonces, los microprocesadores con elementos de instrucción única y múltiples datos se han convertido en la norma y han reducido aún más la brecha entre los procesadores escalares y de matriz. Las consolas de videojuegos y los aceleradores de gráficos tienen su propia CPU gráfica que se ejecuta en paralelo a la CPU escalar principal, liberando así la CPU principal para realizar funciones no gráficas.