俞伯牙是一代傑出的琴師，但真心能聽懂他的曲子的人卻不多。有一次，俞伯牙乘船沿江旅遊。船行到一座高山旁時，突然下起了大雨，船停在山邊避雨。伯牙耳聽淅瀝的雨聲，眼望雨打江面的生動景象，琴興大發。伯牙正彈到興頭上，突然感到琴絃上有異樣的顫抖，這是琴師的心靈感應，説明附近有人在聽琴。伯牙走出船外，果然看見岸上樹林邊坐着一個叫鍾子期的打柴人。
伯牙琴技高超，鍾子期則善於聽琴。伯牙有了鍾子期這樣的知音，便拋棄了愁悶，整日與鍾子期為伴。
有一天，伯牙與鍾子期在高山上游玩，忽然，天上的烏雲聚集起來，天立刻變得陰沉沉的，從第一滴雨點開始，很快便下起了傾盆大雨。伯牙心中不悦，望空中像蒙了一縷輕紗似的，朦朦朧朧；山上的綠樹、石頭被雨洗得煥然一新，這景色甚美。俞伯牙想：我正愁沒事幹，何不把這美景用琴聲表達出來？於是，伯牙把瑤琴搬來，坐定後，伯牙一揮巧手，這雨、這山、這美景全都化作美妙的音符，從伯牙的手中流淌出來。鍾子期陶醉其中，歎道：“好啊，高峻的樣子像見到了泰山！”俞伯牙大悦，聽見山上巖石縫中潺潺流水聲，又發靈感，高山巍峨之聲變成了嘩嘩流水聲。鍾子期閉眼傾聽，不覺心曠神怡，説：“妙啊，水勢浩蕩的樣子像看到了江河！”伯牙微笑着想：我所想的，我所彈出的，鍾子期都能準確地道出，真是我的知音啊！
時隔幾年，伯牙未能與鍾子期相見。今日，伯牙趕去看望鍾子期，未料見到的卻是鍾子期的墓。伯牙熱淚長流，悔恨交加，悲痛萬分。於是，他操起瑤琴，最後一次為鍾子期彈奏一首曲子，邊彈邊高聲吟誦——“……此曲終兮不復彈，三尺瑤琴為君死！”
唱完，伯牙高舉瑤琴，重重地摔在地上——弦“崩”地一聲斷了，瑤琴摔成了碎片。伯牙在鍾子期墓前高聲發誓：終身不再彈琴！
