次年，刘雪庵考入了上海国立音乐专科学校，师从肖友梅、黄自学习作曲理论，同时又向俄籍教师吕维钿夫人学钢琴，向朱英学琵琶，向吴伯超学指挥，向龙榆生学中国韵文及诗词，向李维宁学赋律和自由作曲。这样的学习经历，让刘雪庵的音乐创作才华得以充分发展，他的作品既有中国古典韵味，又融入了西方音乐元素，体现了深厚的学术功底。在校期间，刘雪庵开始了音乐创作。他的早期作品多为抒情乐曲，其中《踏雪寻梅》、《飘零的落花》、《菊花黄》、《枫桥夜泊》、《红豆词》等乐曲典雅高洁，温柔敦厚，艺术韵味浓郁，深受当时文化界人士的喜爱。另一类乐曲则借鉴了古乐府的通俗易懂，如《早行乐》、《采莲谣》、《布谷》、《淮南民谣》等乐曲婉转动听，具有浓郁的生活气息，深受民间喜爱，并流传至海外。