第二次世界大戰前夕，奧地利的薩爾茨堡一片寧靜。
年輕的修女瑪麗亞是個生性活潑，愛唱歌的姑娘。她常常獨自跑到青青的山坡上去唱歌，往往唱得把修道院裏的規矩也忘個一乾二淨。院長很喜歡這個年輕人，見她嚮往自由自在的生活，就介紹她到薩爾茨堡的馮·特拉普上校家去做家庭教師。
馮·特拉普先生是奧地利帝國的退役海軍上校，他的妻子在幾年前去世了。瑪麗亞的學生就是七個失去母親的孩子，他們大的已有十六歲。
瑪麗亞拎着簡單的行李箱，按地址找到了馮·特拉普家。這裏是一座豪華的別墅，大理石的門廳、轉梯、從天花板上垂下來的金色枝形吊燈，一切都令喜歡幻想的瑪麗亞陷入遐想。
正當她呆呆地站着左思右想時，背後傳來一個冷冷的聲音：“請您注意，在這個家裏，有幾個房間是不允許進去的！”
瑪麗亞嚇了一跳，吃驚地回過頭去。
那人就是馮·特拉普上校，他的個子高高的，挺拔英俊，三十多歲的樣子，但神情卻嚴肅得像個五十歲的老軍官。他毫不客氣地使用着一種軍隊的口吻説：“瑪麗亞小姐，在我請的家庭教師中，你是第十二名。我希望你能比上一個好一些，她只呆了兩個小時！”
只呆了兩個小時？乘車來薩爾茨堡的路程也不止這些時間呀！這位上校一定非常苛刻、嚴厲！ 但是，瑪麗亞還想問問孩子的情況。
海軍上校肯定地説，“孩子完全沒有錯誤！責任全在那些家庭教師。她們沒有能力維持七個孩子中的紀律！請你記住，在這個家庭裏如果沒有紀律，一切都會變得亂糟糟的！”
瑪麗亞簡直想象不出該對七個大大小小的孩子使用什麼樣的“紀律”，她就問特拉普先生：“您對教育孩子有什麼具體要求？”
上校説：“他們早晨該温習功課，下午該到院子裏操練，晚上該嚴格按時上牀睡覺，這幾點，是起碼該做到的。”
這時，瑪麗亞忽然想到：安排得這麼緊，孩子們什麼時候遊戲呢？她剛問了一句，特拉普上校就皺起眉頭，突然從衣袋裏拿出一支軍艦上用的鳴苗，嘟嘟吹了起來。
剎那間，樓上的幾個房間都打開了，七個孩子一個個踏着正步走了出來，又排成一隊朝樓下奔來。
瑪麗亞明白了，特拉普先生完全是按照管理軍隊的方法來訓練他的孩子們的，他根本沒考慮過孩子的遊戲問題。
這時，七個孩子已經在特拉普先生面前立正站好。他們偷偷瞧了瞧新來的家庭教師，又互相使了個眼色，就根據上校鳴笛裏不同的信號，一個個出列報告自己的名字。最大的姑娘叫莉沙，已經十六歲，最小的叫梅蕾特，剛滿五歲。
瑪麗亞覺得，這七個孩子看她的眼神，都跟看一隻空空的玻璃瓶一樣，就鼓起勇氣，熱情地自我介紹説：“我叫瑪麗亞，是你們新的家庭教師，我向你們問好。”
接着，她又上前跟孩子們一一握手，但是，孩子們對她很冷淡。
吃晚飯的時間很快到了。
瑪麗亞坐到餐桌邊，剛向孩子問好，突然發現自己的口袋裏有什麼東西在動彈，她不在意地把手伸進去摸了摸，手指卻觸到一個濕乎乎活蹦亂跳的東西，嚇得她“哇”地叫了起來。
仔細一看，竟是一隻青蛙。
坐在她一旁的管家馬上低聲告訴她説：“您還算比較幸運的。上一個家庭教師，在她自己的兜裏摸到了一條蛇！”
瑪麗亞尷尬地笑了笑，正想説點什麼，特拉普先生追問道：“發生了什麼事？是不是誰破壞了紀律？”
這時，瑪麗亞做出很輕鬆的樣子説：“這是我跟孩子們的祕密。”她轉過頭去，對孩子們微笑着説：“真感謝你們，一點也不把我當外人看待，而是把我當作朋友，使我一下子就感到了温暖、幸福和愉快。”
瑪麗亞的寬容和體貼，一下子使這七個失去母親的孩子大為感動，製造惡作劇的小男孩馬爾塔首先低聲抽泣，接着，孩子們一個個都哭了起來。
特拉普上校很久沒有見到孩子們動感情了，一時既高興又莫名其妙。正在這時，有個叫魯夫的年輕郵遞員送來了一份電報。
特拉普上校看完電報，就對孩子們説：”電報是男爵夫人打來的……明天一早，我得去維也納。” 孩子們都知道男爵夫人是個漂亮的寡婦，她很可能成為這個家庭的新媽媽，都紛紛議論起來。大姑娘莉沙卻悄悄溜進花園，她知道，她的男朋友魯夫把綠色郵包扔在一邊，正伸長了脖子朝這邊張望呢。兩人碰到一起，立刻快活地唱起自己喜歡的歌曲，忘情地在亭子裏跳起舞來。
這時，天空中下起了陣陣細雨。
瑪麗亞在自己的房裏，跟管家太太商量更新窗簾和給孩子們做新衣裳的事。管家太太説，“上校很可能就要跟男爵夫人結婚了，窗簾的事，就到那時再説吧。”
聽説孩子們很快會有一個新媽媽，瑪麗亞由衷地為他們感到高興，她跪下來，真誠地祈禱，希望這位能疼愛孩子的母親早日來到這個家庭。
窗外的雨越下越大，不一會兒，又電閃雷鳴。大姑娘莉沙在亭子裏玩夠了，衝過花園想進房子，但所有的門都關上了。她渾身濕透，見只有瑪麗亞的窗子還開着，就不顧一切地爬上去，“撲通”一聲跳到瑪麗亞面前，這着實使她吃了一驚。
瑪麗亞一點也沒問莉沙到花園裏去幹什麼，立刻給她尋找乾衣服換上，又親熱地叫她坐到温暖的被子裏一起談心。沒説上三句話，窗外又是一陣轟隆隆的雷聲，頓時，暴雨傾盆而下。這時，房門一次又一次被撞開，另外六個被雷電嚇得睡不着的孩子竟一個接一個跑到瑪麗亞房裏。他們見大姐姐莉沙也在這裏，立刻都跳上牀來，簇擁在瑪麗亞身邊，最小的格蕾特甚至把頭紮在瑪麗亞的懷裏。
瑪麗亞和孩子們緊緊依偎在一起，感到十分温暖，她對孩子們説：“別怕雷鳴電閃，也別去想那不高興的事，應該多想想那些美好的東西。”
格蕾特不理解地問：“什麼是美好的東西呢？”
瑪麗亞笑了笑，她用柔美的歌聲來回答説：“白色的小馬，鬆脆的蘋果餅，門鈴，車鈴，小牛排加麪條，月亮旁天鵝的剪影……穿着白綢衣裳的小姑娘，落在鼻子和睫毛上的雪絨花，春天河裏的碎冰……美好的東西數不清！”
甜美的歌聲和形象的比喻，一下子使孩子們聯想起自己喜歡的許多事物，他們一點也不害怕了，吵吵嚷嚷地談起各自喜愛的東西來。
突然，門被“哐啷”一聲推開了。
原來，特拉普上校被孩子們的笑聲吵醒了。他不問原因，表情嚴肅地把孩子們一個個攆回自己的房間去。在關上門之前，他用警告的口氣對瑪麗亞説：“小姐，你一定要記住，在這個家裏，第一要緊的是紀律！希望在我回來之前，你能做到這一點。”
瑪麗亞一點也沒計較上校説話的態度，她看了看窗外，雷雨已經過去了，她知道孩子們不會再害怕了。
第二天一早，馮·特拉普上校到維也納去看男爵夫人了。瑪麗亞一看見孩子們的笑臉，立刻就忘掉了上校那刻板乏味的規定，她把舊的綠呢窗簾取下來，給他們每人縫了一件式樣新穎的衣服，讓他們穿着高高興興地出去郊遊。
瑪麗亞帶着孩子們穿過樹林，涉過溪流，他們一起捉迷藏，一起採摘野果和花草，玩累了，就躺在草地上休息。
對着藍天白雲，瑪麗亞問孩子們：“男爵夫人快要來了，你門準備為她唱支什麼歌呢？” 孩子幾乎異口同聲地説：“爸爸不喜歡我們唱歌！”
瑪麗亞點點頭，她明白，上校是因為失去妻子後心情抑鬱，才不喜歡別人在他面前唱歌的，作為一個奧地利軍官，豈有真的不喜歡音樂的道理！她笑着對孩子們説：“我們可以改變他的想法。告訴我，你們會唱些什麼歌？”
但是，孩子們又齊聲回答説：“什麼歌也不會！”
瑪麗亞聽了，只是笑笑，大聲説：“不會不要緊，我可以教你們，先從哚來咪教起。”
接着，瑪麗亞隨口把七個音符編成歌，柔美地唱了起來：“哚，一隻母鹿；來，陽光照下來；咪，就是我自己；發，向遙遠的地方出發；索，快得像穿梭；拉，大家把你拉；梯，上面有果醬麪包和茶等着你，接着，又遇見了哚和母鹿！”
瑪麗亞形象的比喻，把“哚來咪發索拉梯”七個音符生動地結合起來，引起了孩子們很大的興趣，他們又唱又笑，在歡樂的氣氛中不知不覺地上了一堂又一堂音樂課。
幾天過去了，七個孩子迷上了音樂課，再也離不開帶給他們幸福和歡笑的新家庭教師了。
這一天，在通往薩爾茨堡的路上，馮·特拉普上校親自開着白色轎車，帶着美麗、嬌貴的男爵夫人，有説有笑地往家趕。他希望，在正式討論婚姻前，男爵夫人能熟悉他的七個孩子，孩子們也能喜歡這位未來的新媽媽。
突然，他們在汽車裏看見，這裏有羣穿着綠色衣服的孩子在樹林裏爬上爬下，又唱又鬧，簡直像是來了一羣猴子。特拉普上校覺得有點像自己的孩子，但轉念一想，孩子們不會唱歌，又有家庭教師管着，他們不會如此放肆的。
但是，當他和男爵夫人到達目的地不久，就發現瑪麗亞帶着七個孩子，乘坐着小舢板回到花園後的湖邊碼頭。不知是哪個頑皮的男孩故意一搖晃，全船八個人統統跌到水裏，但他們都開心地笑着爬上岸，渾身上下都濕漉漉的。
上校簡直不敢相信自己的眼睛，他迅速掏出鳴笛，“嘟嘟嘟”地吹了起來。這時，孩子們才真的亂了套，七碰八撞地排起隊來。
上校皺着眉頭，在孩子們面前踱着步子，向男爵夫人一一介紹他們，最後，他忍不住問瑪麗亞：“我在路上看見一羣孩子像猴子似的爬樹！我想知道……今天我的孩子有沒有在外面爬樹？”
瑪麗亞點點頭，誠實地説：“爬過的。”
上校又指着孩子們身上的綠色外衣問：“這些是什麼東西？”
瑪麗亞不慌不忙地説：“是我給他們做的衣服！”特拉普上校吃驚得一時説不出話來。
瑪麗亞見他滿臉困惑，就説：“孩子們不是光用鳴笛就能管理的士兵，他們需要了解和關心，更需要愛。”
上校覺得，這個家庭教師管得離她的職責範圍太遠了，就打斷了她的話：“孩子是我的孩子，我不想再聽你説下去！”
但是，瑪麗亞覺得自己剛説到點子上，就懇求道：“我還沒有説完……”
可是，馮·特拉普上校已經被一連串的不稱心事弄得不耐煩了。他板着臉説：“你説完了！瑪麗亞小姐，我命令你，馬上去收拾東西，回你的修道院去！”
但是，他的話音剛落，四周響起了孩子們的歌聲：
羣山洋溢着音樂之聲，羣山有唱不完的歌吟……我的心像鳥兒從湖上飛向樹林，我的心像小天使飄向黎明……
“誰在唱這使人懷念的歌？”聽着孩子們熟悉的聲音，上校簡直不敢相信自己的耳朵。
瑪麗亞輕輕地説：“是你的七個孩子在唱，他們把這首歌獻給你和男爵夫人。”這時，又一陣輕柔的歌聲傳過來，像春雨滋潤了特拉普上校寂寞、憂傷的心，他也情不自禁跟着唱了起來：“每當我的心感到寂寞，我要到山裏去，我又會聽到遙遠的歌聲……”
一曲終了，馮·特拉普的心被深深打動了，他把孩子們一個個擁到胸前，過去的歲月和青春的記憶，似乎一下子又回到了他的身邊。這時，他才明白，修女瑪麗亞是個多麼出色的教師，他愧疚地握住她的手，説：“小姐，剛才……我錯怪你了，我向你道歉。”
瑪麗亞的臉紅了。她説：“也怪我心直口快，假如我做的對孩子們有所幫助……”
沒等她説完，特拉普上校感激地打斷了她的話，説：“您對我幫助太大了，簡直無法形容！”
晚飯以後，瑪麗亞又和孩子們一起為上校和男爵夫人表演了他們排練的木偶劇《孤獨的牧羊人》。每個孩子都操縱着他們的木偶，説説唱唱，表演得精彩極了。特拉普上校一次又一次地鼓掌，男爵夫人也對錶演大加稱讚。
孩子們高興得團團圍住爸爸，非要他當場唱一支歌不可。
上校看到孩子們十分興奮，他也感動極了，彷彿一下子回到童年，滿懷激情地唱了一支《雪絨花》。雪絨花像一張張孩子的臉，在他的眼前閃現，他激動得流出了眼淚。
歡樂的笑聲又開始在這個冷清了多年的別墅裏出現了，孩子們熱情地圍着瑪麗亞，久久不肯離開。男爵夫人猛然發現，特拉普上校看家庭教師的目光也起了微妙的變化。
不久，在一次舞會上，人們都議論起德國要和奧地利合併的消息。特拉普上校説：“什麼合併？這是納粹侵佔、吞併奧地利，他們的野心很大，只會給奧地利人帶來災難！”納粹安插在當地的一名坐探澤勒對上校説：“像您這樣有威望的人，説話別這麼隨便。他們要叫你擔任要職……至少，要請你用雄厚的男中音，唱他們譜的曲子。”
上校反脣相譏：“當納粹佔領奧地利之後，吹吹打打的事當然該由你澤勒先生擔任了！”
就在澤勒向特拉普上校發出納粹攻勢的同時，男爵夫人正在跟瑪麗亞進行另一場談話。她説：“上校好像對你有意思。那天晚上，你穿着漂亮的綠衣服，他直盯着你看。”
單純的瑪麗亞慌張地説：“這沒什麼……”
男爵夫人又緊逼一句：“他請你跳舞時，你的臉紅了。孩子，你可別認真，上校很快會冷下來的，男人都這樣。”
瑪麗亞終於明白了男爵夫人的用意：她出於妒忌，不希望自己留在孩子身邊！她衝動起來，告誡自己説：“這裏不能呆了，走！”
當夜，瑪麗亞收拾起簡單的行李，留了一張便條，就不辭而別，回到了修道院。但是，她的心情是不平靜的，她懷念孩子們，也很想念坦率、正直的特拉普上校。男爵夫人以為，瑪麗亞一走，孩子們會轉而向着她。但是，當孩子們一早發現他們的家庭教師不辭而別，就像失去了最親的親人，一個個沒精打采，甚至向這位“未來的新媽媽”發火，男爵夫人想用恃拉普上校的鳴笛來訓練孩子們，誰知，從最大的孩子到最小的孩子，誰也不理她。最後，她只得向特拉普上校説：“把這幾個小傢伙都……送到寄宿學校去吧……”
特拉普上校冷冷地看了她一眼，説“這麼多年，我從沒想過把孩子送到缺乏温情的寄宿學校去。”
當天，孩子們集體失蹤了。
他們不能失去瑪麗亞！大孩子揹着小孩子，七個人一起來到修道院，要求見見修女瑪麗亞。但是，瑪麗亞卻不敢離開自己的房間！她內心十分喜歡他們，但又不知道怎麼辦。
院長嬤嬤知道瑪麗亞心中的矛盾，對她説：“你要按照自己的意願去生活，跟着天上的彩虹，去尋找自己的夢想，把今生今世的愛，都注入這個夢中。”
聽了這番啟發和鼓勵，瑪麗亞的眼睛變得明亮了。
七個孩子失望地回到薩爾茨堡，他們完全沒去想早已過了吃飯的時間，特拉普上校一肚子無名火，逼着他們要説出到哪裏去的。孩子們你看看我，我望望你，誰也不願説出心中共同的祕密。
正在這時，客廳的門開了，瑪麗亞竟拎着行李箱出現在大家面前。眨眼間，孩子們不顧一切奔過去，爭先恐後地抱住了她。
頓時，特拉普上校一切都明白了，他甚至明白了自己心中無名火的來由，他跑上去，温柔地説：“你走的時候……也沒説聲再見。”
瑪麗亞的臉上泛起紅暈，真誠地向上校和男爵夫人祝福。但是，上校做了一個否定的姿勢，這時，男爵夫人明白了，上校的心裏只有瑪麗亞了。
不久，瑪麗亞成了特拉普上校的妻子，七個孩子興高採。烈地唱着歌，
簇擁在這個新的母親周圍。
正在這時，納粹德國的軍隊佔領了奧地利，那個肥頭大耳的納粹坐探澤勒搖身一變，成了偵緝隊長，逢人就舉手喊：“嗨，希特勒！”
莉沙的男朋友魯夫也盲目地加入了衝鋒隊，成了法西斯的爪牙，成天跟着澤勒耀武揚威。
這一天，特拉普上校怒氣衝衝回到家，一把撕去了被人逼着掛上去的納粹國旗。瑪麗亞關心地走上前，輕聲問：“外面出了什麼事？”
特拉普用拳頭捶了一下桌子，説：“柏林命令我參加他們的海軍，明天一早就得到不來梅基地去報到！”
瑪麗亞早就擔心會出這種事，但沒想到會來得這麼快。特拉普上校説：“要是我拒絕，納粹會向我們全家下毒手！……快把孩子們找來，我們得利用今晚歌唱比賽的機會逃出奧地利！”
法西斯警察已經嚴密監視住薩爾茨堡，但是，他們卻沒法阻止這一家人蔘加當地隆重的歌詠比賽。瑪麗亞讓孩子們穿得暖暖的，全家乘車去參加音樂會。
納粹的汽車緊跟着他們，也來到音樂會上。偵緝隊長澤勒將孩子們一個個打量過來，滿腹狐疑地問：“你們怎麼穿着厚厚的旅行服？”
瑪麗亞微笑着説：“夜裏氣温低，我怕孩子們的嗓子啞了，才讓他們穿這麼厚的演出服的。” 偵緝隊長看不出破綻，只得説：“好吧，我同意了，你們全家都上去唱，這樣可以顯示，與德國合併後的奧地利一切正常，等你們演唱完，我們就要把上校送到不來梅海軍基地去！”
上校和瑪麗亞沒有被嚇倒，他們帶着七個孩子，站在台上，唱起了那曲熱情奔放的《哚來咪》，一下子把生性愛好音樂的聽眾們的熱情都調動起來了。
在一陣又一陣的掌聲中，孩子們一個又一個按順序陸續退場，悄悄上了外面的汽車。特拉普上校一次又一次對觀眾的掌聲鞠躬致謝，最後，他走到麥克風前説：“奧地利的同胞們，也許要很久見不到你們了，現在，我再為你們唱一支古老的奧地利民歌！”
他兩眼濕潤，深沉而動情地唱起了《雪絨花》：“雪絨花，開不敗，就像一張張笑臉，點綴着祖國美麗的河山……”
全場的奧地利聽眾熱烈鼓掌，他們都像特拉普一樣，有一顆熱愛自由、和平的心，他們也將為此而不屈不撓地鬥爭。
緊接着，熱烈的授獎儀式開始了。
主持人先報了第三等獎的獲獎者名單，並請獲獎者上台領獎。在熱烈的掌聲中，第二等獎的獲得者也滿臉春風地上台領了獎。
最後，主持人激動地大聲宣佈：“一等獎，全奧地利的最高榮譽，授予馮·特拉普上校的家庭合唱隊！”
掌聲更熱烈地響起來了，聚光燈一次次照向舞台人口處，祝賀曲一次又一次奏響，但是，上校家的任何人也沒有出現。
這時，納粹分子猛然省悟：上校一家逃走了！澤勒立刻通知封鎖國境線，帶上魯夫和衝鋒隊員，在全城搜查。
原來，在修道院院長的幫助下，特拉普上校一家人都躲到古代貴族的石碑林後面。石碑雖然很高大，一塊接着一塊，但幾個幼小的孩子們仍很害怕，甚至想用唱歌來鎮靜自己。瑪麗亞緊緊摟住最小的格蕾特，囑咐她千萬別出聲。
但是，這細小的聲音仍引起了魯夫的注意，他讓納粹隊員們先走一步，自己卻悄悄埋伏在石碑林的鐵柵外面。
不一會兒，上校和瑪麗亞帶着孩子從石碑後走了出來。不料，魯夫從黑暗裏跳了出來，用槍指着特拉普説：“上校，你的遊戲結束了！”
上校非常鎮靜，他讓瑪麗亞和孩子們一個個從自己身後走出去。莉沙也央求這位昔日的男朋友説：“魯夫，我父親不願為希待勒賣命，你放了他吧。”
魯夫不敢正視莉沙，更不敢正視上校嚴肅的眼睛，他緊張地説：“你再往前走，我……就要開槍了！”
上校慢慢靠近魯夫，規勸他説：“你不是那種人，你還是個孩子，跟我們走吧。”
魯夫步步後退，緊張地叫道：“不許再過來！”
但是，上校已抓住了他的槍，堅定地説：“把槍給我，跟我們一起走！”
魯夫渾身顫抖，突然轉身邊跑邊喊：“中尉！中尉！他們躲在這兒！”
正在這千釣一發之際，兩個年長的修女跑來了。她們在這之前曾揀到一技槍。一位修女用這枝槍瞄準了魯夫的背影，一槍打死了這個可恥的叛徒。
上校、瑪麗亞和七個孩子衝破黑暗，登上了白雪皚皚的阿爾卑斯山，奔向自由和平的地方。一切都像他們唱的那樣，他們將跋山涉水，隨着天上的彩虹尋到自己的夢想。