Kappaleen tarkka alkuperä on epävarma, mutta se johtuu laajalti skotlantilaisen runoilijan Robert Burnsin ansioista. Sanoituksista on kuitenkin erilaisia muunnelmia, mikä viittaa siihen, että useat esiintyjät ovat muuttaneet ja mukauttaneet niitä vuosien varrella.
Erään teorian mukaan laulu on peräisin vanhemmasta kansanballadista nimeltä "The Watery Grave", joka juontaa juurensa 1600-luvulle. "When You and I Were Young, Maggie" -kappaleen melodialla ja sanoilla on yhtäläisyyksiä "The Watery Graven" kanssa.
Toinen teoria yhdistää kappaleen kuuluisaan skotlantilaiseen lainsuojattomaan James Macphersoniin, joka oli aktiivinen 1700-luvun lopulla. Sanotaan, että Macphersonilla, joka tunnetaan myös nimellä "Gentleman Jamie", oli Maggie-niminen rakastaja, joka oli eksyksissä merellä, mikä inspiroi häntä kirjoittamaan laulun.
Tarkkaa alkuperästään huolimatta "When You and I Were Young, Maggie" sai valtavan suosion Skotlannissa ja siitä tuli lopulta laajalti tunnustettu ja rakastettu kansanlaulu. Sen ovat äänittäneet lukuisat artistit, mukaan lukien kansanlaulajat, kuten The Clancy Brothers ja Tommy Makem, sekä suositut muusikot, kuten Judy Collins ja Joan Baez.
Kappaleen kestävä vetovoima piilee sen koskevissa ja nostalgisissa sanoissa, jotka herättävät kaipauksen yksinkertaisuuteen ja nuoruuden huolettomiin päiviin. Se vangitsee katkeransuloiset tunteet, jotka liittyvät menneen rakkauden yhdistämiseen ja yhteisten kokemusten ja muistojen pohtimiseen.
Ajan mittaan "When You and I Were Young, Maggie" on ylittänyt skotlantilaiset juurensa ja siitä on tullut ajaton klassikko kansanmusiikin ja perinteisten laulujen alueella. Yleisö ympäri maailmaa sen esittää, kattaa ja arvostaa sitä edelleen.