Josef Krips dacht aanvankelijk naam te maken als violist; maar na een jaar studie aan de Musikakademie (1920/21), veranderde hij van pit naar podium, en werd een privé-leerling van Felix Weingartner en later diens assistent. Na een zevenjarig verblijf in Karlsruhe (1926-33) keerde hij terug naar de Weense Volksoper en Staatsoper, terwijl hij ook banden aanknoopte met de Salzburger Festspiele. De Joodse geboorte van zijn
vader weerhield Krips van officiële functies na Hitler's annexatie van Oostenrijk in 1938: hij bracht een groot deel van de Tweede Wereldoorlog in het geheim door met het coachen van zangers in Wenen, en nam een fabrieksbaan om te voorkomen dat hij werd opgeroepen voor het Duitse leger. Na 1945, als een van de weinige dirigenten onbesmet door nazi-associaties, trad Krips regelmatig op in Wenen en Salzburg. Nadat hij de Wiener Philharmoniker en de Staatsoper tot hun vooroorlogse uitmuntendheid had helpen herstellen, nam hij dezelfde taak op zich voor het London Symphony Orchestra, als hun chef-dirigent van 1950 tot 1954.
