Mary Poppins er en mildt sagt noe uvanelig barnepike. Hun kan fly, trylle frem spennende ting ut av sin magiske veske og vet hvordan man gjør kjedelige plikter til en morsom lek. Man skulle kunne si at hun er ”praktisk talt perfekt”. Barna Michael og Jane elsker Mary fra første stund men deres pappa, den strenge bankdirektøren George, er ikke like begeistret. Han mener bestemt at barn skal oppdras med regler og disiplin og minst mulig tøys og tull!

Filmen finner sted under depresjonen i London på 1930-tallet, 24 år etter hendelsene i den første filmen. Michael Banks jobber for samme finansinstitusjon som sin far og lever fortsatt på 17 Cherry Tree Lane med sine tre barn, Annabel, John og Georgie og deres husholderske Ellen. Jane Banks følger sin mors fotspor og jobber for arbeidernes rettigheter og gir en hjelpende hånd til Michaels familie. Når familien opplever et tap, returnerer Mary Poppins med sine magiske evner og med hjelp av Jack bringer de glede og leken tilbake til hjemmet i Cherry Tree Lane.