据说在公元前2500年左右，印度婆罗门教的古老文献《吠陀》中已经有了“0”这个符号的应用，当时在印度婆罗门教中它表示空的位置。不过，关于这一点存在疑问，因为如果属实，那么为何在公元6世纪印度人仍在使用黑点作为“0”的符号，至于何时由点变为圆圈，具体时间已无法考证。在公元718年的《开元占经》中，印度的《九执历》被译制，当时印度的零仍然是黑点。
关于0的起源，有几种观点。0是极为重要的数字符号，而关于0这个思维的概念在其他地区也很早就存在了。历史记载显示，玛雅人有一个被称为“人类头脑最光辉的产物”的数学体系，玛雅人（或他们的欧梅克祖先）发展了零的概念，玛雅文明最早发明了特别字体的0。玛雅数字中的0以贝壳模样的象形符号表示，并且使用二十进制系统；数字以点（·）表示1，横棒（－）表示5。碑文显示他们有时会使用到亿。这里提到的零，并不是我们所用的阿拉伯数字0，但这应该是最早含有0的概念的数字符号了。
古埃及早在公元前2千年就有人在记账时用特别符号来表示零。古巴比伦的文献记载中有0的萌芽。但是与现在不同的是，0的符号是用空位来表示的，例如要表示一百零一，古巴比伦写作1 1。中国很早就有0这个概念，许多文献中均有记载。中国古代使用算筹进行隐行计算，在算筹和算盘上，以空位表示0。公元前4世纪，中国数学家就已经了解负数和零的概念了。（而在我国远古时代的结绳记数法中，零是在对“有”的否定中出现的，意思是“没有”。）公元1世纪的《九章算术》说：“正负术曰：同名相除，异名相益，正无入负之，负无入正之。其异名相除，同名相益，正无入正之，负无入负之。”这段话的大意是“减法：遇到同符号数字应相减其数值，遇到异符号数字应相加其数值，零减正数的差是负数，零减负数的差是正数。以上文字里的“无入”通常被数学历史家认为是零的概念。（全文见维基文库的《九章算术》）虽然如此，但是当时并没有使用符号来表示零。筹算数码中开始没有“零”的符号，遇到“零”就空位。比如“6708”就可以表示为"┴〧 ╥ "（由于七没有对应的符号，用苏州码子代替的；毕竟苏州码子来源于算筹）。数字中没有“零”，是很容易发生错误的。所以后来有人把铜钱摆在空位上，以免弄错，这或许与"〇"的出现有关。
印度直到7世纪初，印度大数学家葛拉夫·玛格蒲达才首先说明了0的性质，任何数乘0是0，任何数加上0或减去0得任何数。遗憾的是，他并没有提到以命位记数法来进行计算的实例。
多数人认为，“0”这一数学符号的发明应归功于公元6世纪的印度人。他们最早用黑点（·）表示零，后来逐渐变成了“0”。在690年时；武则天颁布了则天文字，其中一个字就是“〇”（比印度的小圆圈符号o早出现186年）；虽然当时还不是零的意思。而中国古代数学上记录“〇”时是用“囗”来表示的，一方面为了将数字区别开来；更重要的是由于我国古代用毛笔书写。用毛笔写“〇”比写“囗”要方便得多，所以零逐渐变成按逆时针方向画“〇”。
据英国著名科学史专家李·约瑟博士的考证，“0”产生于中印文化，是中国首先使用的位值制促进了零的出现。印度是在中国筹算和位值制的影响下才创造“0”的。中国远在三千多年前的殷商时期，就采用了位值制，甲骨文中有“六百又五十又九（659）”等数字，明确地使用了十进位。而印度一个黑点，又如何演化成〇的符号呢？不知道有没有演变过程的证据？但是中文文献中〇的符号最早出现时间，也是无法考据的。宋代蔡沈《律率新书》中用方格表示空缺。1180年金朝《大明历》中有“四百〇三”，“三百〇九”等数字。公元1247年，秦九韶在其著作数书九章中使用符号“〇”来表示零的概念。李冶《测圆海镜》（1248）第十四问中就有“〇”的图像。现在普遍使用的包括“0”符号在内的印度—阿拉伯数码，是在13世纪的时候由教徒从西方传入中国的，而那时中国的〇已经使用一百多年了。详情
