Elmer Bernstein nasceu em Nova York em 4 de abril de 1922. Estudou piano, fez audições em Aaron Copland aos 13 anos e teve a chance de estudar com um dos alunos de Copland. Bernstein frequentou a Julliard School, onde continuou seu treinamento para piano, juntamente com o estudo da composição.
Projetado para o serviço na Segunda Guerra Mundial, Elmer Bernstein recebeu uma tarefa para organizar músicas para a Banda da Força Aérea do Exército dos Estados Unidos e depois escrever músicas para a programação da Rádio das Forças Armadas. Após a guerra, ele recebeu uma comissão para compor um programa de rádio das Nações Unidas, ouvido por um executivo da rede, e levou a que lhe fosse oferecida a chance de compor um programa de rede.
Por sua vez, seu trabalho na televisão levou a estréias em Hollywood, e seu primeiro avanço ocorreu com O Homem do Braço de Ouro, em 1955, que lhe rendeu sua primeira indicação ao Oscar, e se tornou sua primeira trilha sonora a ser lançada comercialmente.
A vasta gama de suas habilidades pode ser vista na enorme variedade genérica de seus esforços. Seu tema para The Magnificent Seven ficou conhecido como a música tema dos cigarros Marlboro, simbolizando o herói ocidental, mas ele também marcou Animal House, To Kill a Mockingbird e Cape Fear.
Elmer Bernstein foi indicado e recebeu inúmeras honras e prêmios. Ele recebeu onze indicações ao Oscar e ganhou o prêmio de Melhor Trilha Sonora Original por Thoroughly Modern Millie em 1968. Nomeado por sete Globos de Ouro, ganhou dois, por Melhor Trilha Original no Havaí em 1967 e Melhor Trilha Sonora em 1963 por To Kill um Mockingbird.
Elmer Bernstein tem uma estrela na Calçada da Fama e foi duas vezes indicada ao Grammy – em 1994 por The Age of Innocence e em 1985 por Ghost Busters. Por outro lado, ele ganhou um Razzie em 1985 pela pior trilha sonora de 1984, concedido por Bolero, e compartilhou com Peter Bernstein, seu filho.
Elmer Bernstein também criou sua própria gravadora para produzir gravações de trilhas sonoras que não estavam disponíveis. Ele continuou trabalhando como compositor e maestro até sua morte, em 18 de agosto de 2004.