Nascido em Lawrence, estado de Massachusetts, estuda música na Universidade de Harvard e no Curtis Institute of Music, de Filadélfia. Aperfeiçoa a técnica de regência com Fritz Reiner e Serge Kousservitski (1940-1941). A partir de 1943, obtém sucesso regendo a orquestra do New York City Center.
Entre 1958 e 1969, é regente da Filarmônica de Nova York, com a qual também se apresenta como pianista e realiza várias turnês pelo mundo.
Em 1953 torna-se o primeiro regente norte-americano a se apresentar no Teatro Scala de Milão, na Itália, onde rege montagens operísticas em parceria com o diretor Luchino Visconti e a soprano Maria Callas. Entre as grandes orquestras de que foi regente, estão também a Filarmônica de Viena e a Sinfônica de Londres.
Suas composições incluem três sinfonias -Jeremiah (1942), The Age of Anxiety (1949) e Kaddish (1961-1963) - e uma ópera para televisão, Trouble in Tahiti. Um de seus últimos trabalhos é a composição da missa encomendada para a inauguração do John F. Kennedy Center of Performing Arts (1971). Também fez os balés The Dybbuk (1974), Songfest (1977) e Halil (1981).