La orquesta fue creada por Fritz Scheel en 1900. Leopold Stokowski fue director principal desde 1912 y con quien logró el prestigio internacional. Con Stokowski grabó la banda sonora de la película Fantasía de Walt Disney.
De 1936 a 1938 Leopold Stokowski y Eugene Ormandy se repartieron la dirección de la orquesta. Después, Ormandy quedó como único director durante 44 temporadas. De la extraordinaria calidad de la orquesta durante este periodo dan testimonio numerosas grabaciones discográficas. Thea Musgrave Se convierte en la primera mujer en conducir una composición propia con la orquesta.