Elmer Bernstein wurde am 4. April 1922 in New York geboren. Er studierte Klavier, trat mit dreizehn Jahren bei Aaron Copland vor und erhielt die Chance, bei einem von Coplands Schülern zu studieren. Bernstein besuchte die Julliard School, wo er neben dem Kompositionsstudium auch seine Klavierausbildung fortsetzte.
Elmer Bernstein wurde zum Dienst im Zweiten Weltkrieg eingezogen und erhielt den Auftrag, Lieder für die United States Army Air Force Band zu arrangieren und dann Musik für das Radioprogramm der Streitkräfte zu schreiben. Nach dem Krieg erhielt er den Auftrag, für ein Radioprogramm der Vereinten Nationen zu komponieren, das von einem Netzwerkmanager gehört wurde, und führte dazu, dass ihm die Chance geboten wurde, für ein Netzwerkprogramm zu komponieren.
Seine Fernseharbeit führte wiederum zu Hollywood-Eröffnungen, und sein erster Durchbruch gelang 1955 mit Der Mann mit dem goldenen Arm, der ihm seine erste Oscar-Nominierung einbrachte und sein erster Film-Soundtrack wurde, der kommerziell veröffentlicht wurde.
Die große Bandbreite seiner Fähigkeiten zeigt sich in der enormen generischen Vielfalt seiner Bemühungen. Sein Thema für The Magnificent Seven wurde als Titelmusik für Marlboro-Zigaretten bekannt und verkörperte den Westernhelden, aber er vertonte auch Animal House, To Kill a Mockingbird und Cape Fear.
Elmer Bernstein wurde nominiert und erhielt zahlreiche Ehrungen und Auszeichnungen. Er erhielt elf Oscar-Nominierungen und gewann 1968 für die beste Originalmusik für Thoroughly Modern Millie. Er wurde für sieben Golden Globes nominiert, gewann zwei, für die beste Originalmusik für Hawaii 1967 und für die beste Filmmusik 1963 für To Kill eine Spottdrossel.
Elmer Bernstein hat einen Stern auf dem Walk of Fame und wurde zweimal für Grammies nominiert – 1994 für The Age of Innocence und 1985 für Ghost Busters. Auf der anderen Seite gewann er 1985 einen Razzie für die schlechteste Partitur des Jahres 1984, verliehen für Bolero, und teilte sich mit Peter Bernstein, seinem Sohn.
Elmer Bernstein gründete auch sein eigenes Plattenlabel, um Aufnahmen von Soundtracks zu produzieren, die nicht verfügbar waren. Bis zu seinem Tod am 18. August 2004 arbeitete er sowohl als Komponist als auch als Dirigent.