Debido a su simplicidad estructural, se podría pensar que la hierba evolucionó hace mucho tiempo, junto con las primeras plantas. Curiosamente, sin embargo, el registro fósil muestra que este no es el caso. La hierba solo aparece en el registro fósil hace unos 67 millones de años, en forma de fitolitos (pequeñas motas de sílice en la hierba que dificultan su digestión) que se encuentran en el estiércol de dinosaurio fosilizado. Recientemente, se pensó que la hierba solo evolucionó hace unos 55 millones de años, volviéndose abundante después de la Era de los Dinosaurios, que terminó en una extinción masiva hace 65 millones de años, pero el hallazgo de fitolitos refuta esto.
Las plantas terrestres en general evolucionaron durante el Silúrico, hace unos 440 millones de años. Estos eran simples musgos y líquenes. A lo largo del Mesozoico, los dinosaurios consumieron varias plantas, pero no tocaron la hierba hasta que nació al final del período. Si considera que la duración total de las plantas terrestres corresponde a una hora, los pastos evolucionaron en solo los últimos nueve minutos. Sin embargo, hoy en día muchos ecosistemas están dominados por pastizales, que se estima que cubren el 20% de la superficie terrestre de la Tierra, numerosos animales viven en el pasto y los miembros de la familia de los pastos son las plantas más importantes desde el punto de vista agrícola y económico del mundo.
Hace unos 65 millones de años, el mundo fue diezmado por un impacto de asteroide masivo que hizo que todos los dinosaurios no aviares se extinguieran. La evolución de las gramíneas se presenta a menudo en este contexto, retratada como la hierba que coloniza un mundo que quedó relativamente estéril por la extinción masiva. Sin embargo, esto es una falacia, ya que la hierba no se generalizó hasta más de 10 millones de años después de la extinción. A pesar de que 10 millones de años no es extremadamente largo en términos evolutivos, todavía es demasiado largo para que sea exacto presentar los pastos como colonizadores después de la extinción generalizada de las plantas. La cubierta vegetal probablemente se restauró en gran medida solo unas pocas decenas de miles de años después de la extinción, si no antes.
La hierba se considera uno de los rasgos característicos de la era Cenozoica, que abarca desde la extinción de los dinosaurios hasta la actualidad. Muchos mamíferos muestran una estrecha evolución conjunta con la hierba, ya que se requieren adaptaciones especiales para digerir sus tejidos ricos en sílice. Los rumiantes, como las vacas, resuelven el problema utilizando un estómago de varias cámaras que digiere lentamente la hierba y la hace fermentar. Con esto, pueden consumir grandes cantidades de hierba para mantenerse. Los humanos, al ser omnívoros flexibles, carecen de las adaptaciones necesarias para digerir la hierba y optan por fuentes de alimentos más ricas en calorías, como frutas y carne.