1918年，当时的作曲家刘天华在常州第五中学教授音乐课。暑假前夕的这个夜晚，他结束了繁忙的教学任务返回江阴家中，在庭院中练习二胡。练琴间隙，他举头望月，触景生情，动笔写下这首乐曲的初稿。全曲旋律悠扬，描绘江南天高气爽的夏日月夜，同时，四次极富特色的二胡滑音也为乐曲增添了一丝诙谐幽默之感。

后来，刘天华专门对《月夜》的创作意图作说明：有人以为胡琴上的音乐，大都粗鄙淫荡，不足登大雅之堂。此诚不明音乐之论。要知道音乐的粗鄙与文雅，全在演奏者的思想与技术及乐曲的组织上同一乐器七情具能表现，胡琴又何能例外？因而，刘天华在初稿基础上对《月夜》不断修改、完善，直到1924年才最终定稿。