Sousa syntyi Washingtonissa vuonna 1854. Hän aloitti musiikin opiskelun nuorena ja osoitti suurta lahjakkuutta. Hän liittyi United States Marine Bandiin vuonna 1872 ja nousi nopeasti riveissä. Vuoteen 1880 mennessä hän johti yhtyettä.
Sousa johti Marine Bandia 35 vuotta, jona aikana hän sävelsi monia kuuluisimpia marssejaan, mukaan lukien "The Stars and Stripes Forever" ja "Semper Fidelis". Hän kirjoitti myös useita operetteja ja muita teoksia.
Sousa jäi eläkkeelle Marine Bandista vuonna 1929, mutta hän jatkoi musiikin säveltämistä kuolemaansa saakka vuonna 1932. Hänen musiikkiaan esittävät edelleen bändit ja orkesterit ympäri maailmaa ja häntä pidetään yhtenä kaikkien aikojen suurimmista bändimestareista.