最早牛类出现的时间约在1800万年前。随着环境的变迁和草原的扩张，牛科动物逐渐繁盛起来。至今，已经发现了137个现生种和300多个化石种。
在第四纪初期，即260万至220万年前，出现了一些与家牛解剖形态相近的牛亚科种类。这些种类，连同真马和真象，被统称为真牛。丽牛、周氏水牛和古中华野牛是第一代真牛，它们的起源地在欧亚大陆。原始牛和德氏水牛构成了第二代真牛，同样起源于欧亚大陆。而我们今天所饲养的普通牛、水牛和牦牛则是第三代的真牛，它们的祖先源自欧亚大陆，普通牛甚至传播到了北非，并由移民带到了全球各地。
关于原始牛的起源，虽然与约两百多万年前在欧洲存在的丽牛在形态上有许多相似之处，但在中国发现的同年代丽牛化石表明，亚洲的原始牛可能源自本土的丽牛。
在新石器时代晚期的良渚文化遗址中，发现了大量水牛骨骸，这表明当时江南地区的水牛饲养已经相当普遍。根据形态特征和地理分布，周口店遗址出土的中更新世德氏水牛被认为是现生水牛的直接祖先。而早更新世的水牛，只有广西崇左发现的周氏水牛一种，距今约120万年，这表明周氏水牛可能是亚洲水牛最早的祖先。
董为研究员指出，中国科学家的最新研究显示，牦牛与野牛的系统关系最近，因此牦牛很可能起源于早更新世的古中华野牛。河北阳原出土的古中华野牛化石，距今约180万年。
通过解剖学特征的比较分析，一般认为普通牛的直接祖先是原始牛。原始牛体型巨大，体长近3米、肩高1.8米左右、体重可达1吨。经过人类的长期驯化，原始牛逐渐演变成了今天的普通家牛。
牛的驯养最早出现在埃及，大约在6000年前，而在中国，这一过程大约始于龙山文化中期。在中国的许家窑遗址和许昌灵井遗址出土的原始牛化石，是迄今为止在中国发现的最早的原始牛化石，距今10万至12.5万年，这被认为是许家窑人和许昌人的猎物。
还有一些野牛未被驯化成家牛，而是成为了人类的狩猎对象。欧洲史前洞穴中的壁画描绘了野牛，而在中国松花江晚更新世堆积中出土的野牛化石，距今1万至3万年。在东北的旧石器遗址中，也有东北野牛的化石发现，这表明野牛与古人类之间有密切的关系。
