Hän syntyi 10. kesäkuuta 1952 Jacksonvillessä, Floridassa, ja aloitti kitaransoiton nuorena. Vuonna 1971 hän liittyi Jacksonvillessä toimivaan Molly Hatchet -yhtyeeseen ja kiersi heidän kanssaan vuoteen 1980 asti.
Jätettyään Molly Hatchetista McKinney perusti Andy McKinney and the Road Hawgs -yhtyeen, joka julkaisi kaksi albumia 1980-luvulla.
Hän on myös työskennellyt sessimuusikkona ja esiintynyt artistien kuten Gregg Allmanin ja Dickey Bettsin albumeilla.
Viime vuosina McKinney on asunut Jacksonvillessä, Floridassa, ja jatkaa musiikin soittamista satunnaisesti.