Tarina alkaa Kreikan Kalokairin saarelta, jossa Sophie Sheridan (Amanda Seyfried) valmistautuu häihinsä Skyn (Dominic Cooper) kanssa. Sophiea on aina kasvattanut hänen yksinhuoltajaäitinsä Donna (Meryl Streep), eikä hän ole koskaan tavannut isäänsä. Hän lukee salaa äitinsä päiväkirjaa ja saa selville, että hänellä on kolme mahdollista isää:Sam Carmichael (Pierce Brosnan), Bill Anderson (Stellan Skarsgård) ja Harry Bright (Colin Firth).
Sophie on päättänyt selvittää, kuka hänen isänsä on, ja kutsuu kaikki kolme miestä hääänsä kertomatta Donnalle. Kun he saapuvat, Donna on järkyttynyt ja järkyttynyt, mutta hän suostuu antamaan heidän jäädä häihin. Viikonlopun edetessä Sophie tutustuu kaikkiin miehiin ja alkaa ihmetellä, kuka hänen oikea isänsä on.
Samaan aikaan Donna käsittelee omia tunteitaan menneisyydestä. Hän on edelleen rakastunut Samiin, mutta pelkää myös loukkaantuvansa uudelleen. Hän luottaa kahdelle parhaalle ystävälleen, Rosielle (Julie Walters) ja Tanyalle (Christine Baranski).
Häiden aattona Sophie keskustelee sydämestä sydämeen jokaisen kolmen miehen kanssa. Hän oppii lisää heidän menneisyydestään ja suhteestaan Donnan kanssa. Hän oppii myös, että jokaisella heistä on erityinen side häneen.
Lopulta Sophie päättää, ettei hänen tarvitse tietää, kuka hänen isänsä on. Hän on iloinen äitinsä ja ystäviensä rakkaudesta ja tuesta. Hän menee naimisiin Skyn kanssa, ja he kaikki elävät onnellisina elämänsä loppuun asti.