Sax kokeili erilaisia puupuhallinsoittimia ennen saksofonin kehittämistä. Hän halusi luoda soittimen, jossa olisi vaskipuhallinsoittimen voimaa ja laajuutta, mutta puupuhallinsoittimen ketteryyttä ja ilmaisukykyä. Saksofoni on yksikiekkoinen soitin, kuten klarinetti, mutta siinä on leveämpi reikä ja suurempi kello, mikä antaa sille täyteläisemmän ja kaikuvamman äänen.
Sax patentoi saksofonin vuonna 1846, ja siitä tuli nopeasti suosittu sotilasbändien ja orkesterien keskuudessa. 1900-luvun alussa saksofoni otettiin käyttöön jazzmuusikoiden keskuudessa, ja siitä tuli pian yksi jazzmusiikin tärkeimmistä soittimista.
Nykyään saksofonia soitetaan monenlaisissa musiikkilajeissa, mukaan lukien klassinen musiikki, jazz, blues, rock ja pop. Sitä käytetään myös marssiyhtyeissä ja sotilasyhtyeissä.