这种乐器的历史可以追溯到中国的唐宋时期，它从最初的拉弦乐器奚琴演变而来，并在成吉思汗时期（1155—1227）已经在民间广为流传。据《马可波罗游记》记载，早在12世纪，蒙古族的前身——鞑靼人中就流行着一种二弦琴，这可能是马头琴的前身。到了明清时期，马头琴已经被用于宫廷乐队。马头琴在不同地区有不同的名称和风格。在内蒙古西部的部分地区，它被称为“莫林胡兀尔”，而在内蒙古东部的呼伦贝尔盟、哲里木盟、昭乌达盟，人们则称之为“潮尔”。除此之外，它还有“胡兀尔”、“胡琴”、“马尾胡琴”、“弓弦胡琴”等多种别称。除了在内蒙古，马头琴也在辽宁、吉林、黑龙江、甘肃、新疆等地的蒙古族社区广为流传。