关于冰淇淋的起源有多种说法。西方传说公元前4世纪左右，亚历山大大帝远征埃及时，将阿尔卑斯山的冬雪保存下来，将水果或果汁用其冷冻后食用，从而增强了士兵的士气。巴勒斯坦人则利用洞穴或峡谷中的冰雪驱除炎热。最具说服力的说法是冰淇淋起源于中国。1292年，马可波罗游历中国后，将在北京最爱吃的冻奶的配方带回威尼斯，并在意大利北部流传开来。东方的传统冰冻食品传入西方，得到进一步发展，实现了产业化，从而诞生了今天的冰淇淋。
在中国，冻奶（Frozen Milk）很久以前就开始食用。经马可波罗介绍到西方后，冰淇淋在1660年前后开始在巴黎流行。意大利人Cotelli在桔子或柠檬等中加入香味果汁后冻结制成冰果并进行销售。1774年，法国路易国王的御用厨师制造出冰晶小而柔软的奶油冰，后来随着大量使用浓缩乳、炼乳、奶粉等原料，冰淇淋的名称开始普及。冰淇淋随后传入英国、美国，逐渐被人们接受。
1851年，美国马里兰州的巴尔的摩牛奶商人JACOB FUSSEL实现了冰淇淋的工业化。他在美国巴尔的摩建立工厂，最早开始大量生产冰淇淋。随着19年的等质机、1902年的循环式冷藏机、1913年的连续式冷藏机等的发明，冰淇淋的工业化在全世界得到迅速发展。1904年圣路易万物博览会上，蛋卷冰淇淋首次亮相。
冰淇淋的历史可以追溯到唐朝末期，当时人们开始在夏天。宋代商人们开始在冷食里加入水果或果汁。元代有人在冰中加入果浆和牛奶。13世纪，马可·波罗将制造冰淇淋的方法带到意大利，后来传到法国。法国人发明了一种半固体状的冰淇淋，使冰淇淋更加色泽鲜艳、美味可口。
冰淇淋的发展与制冷技术密切相关。英国人费尔肯发明了世界上第一台以乙醚为制冷剂的压缩机。法国人卡菜、美国人波菜和德国人林德相继发明了以氨为制冷剂的压缩机。瑞典人拉伐发明了稀奶油分离机，对生产高脂冰淇淋起了决定性作用。美国人巴布考克发明了巴氏脂肪瓶，用于检测牛乳、稀奶油及冰淇淋中的含脂量。1909-1912年，法国人戈林制造出第一台高压均质泵，改善了冰淇淋的组织状态与膨胀率。1917年英国琼尼尔兄弟公司发明了测定冰淇淋膨胀率的技术。到1920年，冰淇淋的口感和营养价值得到广泛认可，开始受到大众的喜爱。1921年，日本开始生产美国式冰淇淋。随着冷藏技术的改进、运输的发展、家用冰箱的普及、包装的改良、连锁销售网的建立以及冰淇淋配料标准的改进，消费者可以随处购买冰淇淋，冷饮在全球范围内迅速流行起来。
