Gustav Leonhardt studeerde orgel, clavecimbel en muziekwetenschap in Bazel.
Hij was jarenlang docent aan het Sweelinck Conservatorium te Amsterdam.
In de jaren 1969 en 1970 bezette hij een leerstoel aan de Harvard University.
Sinds 1981 is hij organist van de Nieuwe Kerk te Amsterdam.
Hij gaf concerten in vrijwel alle landen van Europa en maakte tournees door de Verenigde Staten, Japan en Australië.
In 1967 speelde hij de rol van Johann Sebastian Bach in Jean-Marie Straubs film “Chronik der Anna Magdalena Bach”.
Hij bezorgde van de Opera Omnia van Jan Pieterszoon Sweelinck de uitgave van Band I (fantasieën en toccata’s voor klavier).
Daarnaast maakte hij talloze grammofoon- en CD-opnames.
Als dirigent leidde hij uitvoeringen van opera’s van Monteverdi en Rameau.
Hij maakte de eerste plaatopname van alle cantates van Johann Sebastian Bach. Dit in nauwe samenwerking met Nikolaus Harnoncourt, samen met wie hij in 1980 de Erasmusprijs ontving.
Eredoctoraten werden hem verleend respectievelijk in Dallas, Amsterdam, Harvard, Metz en Padua.
Koningin Beatrix verleende Gustav Leonhardt op vrijdag 22 mei 2009 in Paleis Huis ten Bosch de Eremedaille voor Kunst en Wetenschap, een van de hoogste onderscheidingen in de Huisorde van Oranje.