Costello syntyi Patersonissa, New Jerseyssä, italialaisten maahanmuuttajien perheeseen. Hän aloitti uransa show-bisneksessä teini-ikäisenä esiintyen vaudevillessä ja burleskissa. Hän tapasi Bud Abbottin vuonna 1936, ja he muodostivat komediaryhmän. Heistä tuli nopeasti yksi maailman suosituimmista komedianäyttelijöistä, jotka esiintyivät yökerhoissa, radiossa ja elokuvissa.
Abbottin ja Costellon komediaa leimasivat heidän slapstick-rutiinit ja Costellon korkea ääni ja liioiteltu ilme. He esiintyivät yhteensä 36 elokuvassa yhdessä, mukaan lukien "One Night in the Tropics" (1940), "Buck Privates" (1941) ja "Abbott and Costello Meet Frankenstein" (1948).
Costellon terveys alkoi heikentyä 1950-luvun alussa, ja hänelle tehtiin useita sydänleikkauksia. Hän kuoli sydänkohtaukseen vuonna 1959 52-vuotiaana.
Ennenaikaisesta kuolemastaan huolimatta Costelloa pidetään yhtenä 1900-luvun vaikutusvaltaisimmista koomikoista. Hänen työnsä Bud Abbottin kanssa auttoi määrittelemään komediagenren ja inspiroi lukemattomia muita koomikkoja.