Bolin syntyi Sioux Cityssä, Iowassa. Hän aloitti kitaransoiton 6-vuotiaana ja 17-vuotiaana hän soitti ammattimaisesti paikallisissa bändeissä. Vuonna 1969 hän liittyi Zephyr-yhtyeeseen, joka julkaisi kaksi albumia ennen kuin hajosi vuonna 1971. Sitten Bolin liittyi James Gangiin korvaten Joe Walshin. Hän levytti kolme albumia yhtyeen kanssa ennen lähtöään vuonna 1973.
Vuonna 1975 Bolin liittyi Deep Purpleen Ritchie Blackmoren tilalle. Hän äänitti yhden albumin yhtyeen kanssa Come Taste the Bandin ennen lähtöään vuonna 1976. Bolin kuoli huumeiden yliannostukseen Miami Beachissä Floridassa 4. joulukuuta 1976 25-vuotiaana.
Bolin oli erittäin taitava kitaristi, joka sai vaikutteita monilta muusikoilta, mukaan lukien Jimi Hendrix, Eric Clapton ja Jeff Beck. Hänet tunnettiin sulavasta soittotyylistään ja kyvystään luoda monimutkaisia melodioita ja sooloja. Hän oli myös lahjakas lauluntekijä ja laulaja.
Bolinin kuolema oli suuri menetys musiikkimaailmalle. Hän oli lahjakas muusikko, jolla oli potentiaalia tulla yhdeksi sukupolvensa suurimmista kitaristeista.