1932年底，聶耳回到上海，短暫的北京之行讓他充滿了創作革命音樂的熱情。回到上海之後，聶耳認識了田漢，兩人合作創作出了很多革命作品，其中就包括享譽世界的《義勇軍進行曲》。
當時，田漢是左翼戲聯的負責人，還是中國共產黨上海中央局文化工作委員會成員。與聶耳相識後，田漢給了聶耳不少的鼓勵和幫助，並介紹聶耳在1933年年初加入了中國共產黨。
成為中國共產黨黨員的聶耳，把共產主義作為自己的唯一信仰，更加熱情的投入革命音樂的創作。當時中國電影事業剛剛發展，左聯藝術家們拍攝了很多反映人民大眾生活的進步影片，聶耳用他的小提琴，在影片中演奏音樂，用音樂表達出豐富的情感，獲得了大家的一致讚揚。
1933年8月，聶耳用他心愛的小提琴，為電影《母性之光》作曲，創作了他的第一首表現人民大眾鬥爭生活電影歌曲——《開礦歌》。這是聶耳表現勞苦大眾鬥爭生活的音樂處女作，它開創了中國30年代革命電影歌曲的先聲。
在這之後，聶耳的創作一發不可收拾，又用他心愛的小提琴，陸續創作出了《碼頭工人歌》、《賣報歌》、《畢業歌》和《大路歌》等許多膾炙人口的歌曲，在人民中引起了強烈的反響和共鳴。
1934年7月，田漢決定創作一部以抗日救亡為主題的電影《風雲兒女》，《義勇軍進行曲》就是這部電影的主題曲。這首歌的歌詞，是影片中詩人辛白華所作的《萬里長城》長詩的最後一首。田漢在創作歌詞時，由於時間倉促，就把歌詞隨手寫在了一張香煙襯紙上。
剛完成了電影故事和歌詞，田漢就被當時的反動政府逮捕了。左翼戲聯另一位負責人夏衍拿到田漢留下的劇本和那張寫着歌詞的香煙襯紙，把歌詞抄寫下來，繼續完成電影準備工作。
聶耳聽説這件事情以後，不顧個人安危，找到夏衍和《風雲兒女》的導演許幸之，主動要求為這首歌作曲。
許幸之在《憶聶耳》中回憶道：“聶耳那主動要求工作的作風，那種熱情、坦率而誠懇的年輕音樂家的氣質，給我留下了很深的`印象。使我感到他彷彿是一團火，在我面前燃燒着，連我自己的心也被他點燃起來。”
在順利得到作曲的任務之後，聶耳用火一般的巨大熱情，很快就完成了《義勇軍進行曲》的初稿。
後來，聶耳曾對許幸之説：“為創作《義勇軍進行曲》，我幾乎廢寢忘食，夜以繼日，一會兒在桌子上打拍子，一會兒坐在鋼琴面前彈琴，一會兒在樓板上不停走動，一會兒又高聲地唱起來。”
不久，聶耳為逃避反動政府的追捕而出國，並在國外順利完成了《義勇軍進行曲》的終稿，將曲譜寄回國內。為了使《義勇軍進行曲》能夠激勵中華兒女奮勇抗日，不怕犧牲的勇氣，聶耳在作曲過程中，將“我們萬眾一心，冒着敵人的大炮飛機前進”修改成“我們萬眾一心，冒着敵人的炮火前進！前進！前進！進！”
令人遺憾的是，當《義勇軍進行曲》在銀幕上首次響起時，聶耳卻因為意外在國外去世了。但這首《義勇軍進行曲》，遠遠超越了電影本身的影響力，成為那個時代民族革命的號角，鼓舞了無數愛國志士。
1949年新中國成立時，全國代表一致通過將《義勇軍進行曲》定為我國國歌。