在汉朝时期，司马和司徒均属于三公之列，司马主掌军事，司徒则负责行政管理。汉成帝在位时，对官职进行了调整，将御史大夫提升为大司空，但司徒的地位依旧高于司空。到了东汉时期，大司马成为三公中的首位，掌握着军事上的最高权力。然而，到了东汉末年，三公的实际职权逐渐减少，成为虚职，同时在三公之上增设了大司马，其地位在三公之上。
三国时期，魏国在三公之上单独设置了大司马，作为上公，位列第一品，高于大将军，通常由大将军晋升而来。蜀汉的大司马职位也位于大将军之上。吴国则设有大司马、左大司马和右大司马，这些职位都高于上大将军，通常由大将军或上大将军晋升而来。
晋朝继承了三国时期的官制特点，大司马在武官中的排名最为靠前。南北朝时期，北朝的魏和齐都将大司马与大将军视为“二大”，负责军事事务，地位在三公之上。北周根据《周礼》设立了六官，大司马是夏官的长官，由卿担任。隋朝以后，大司马的职位被废除。明清时期，大司马这一称号被用作兵部尚书的别称，担任全国军事行政的最高长官，相当于现在的军委主席或国防部长。
大司徒是掌管地官的长官，主要负责处理人民事务。在汉朝，大司徒的称号曾被改为司徒。北周依照《周礼》设立了六官，司徒是地官的长官，由卿担任。隋朝以后，大司徒的职位被废除。明清时期，大司徒这一称号被用作户部尚书的别称，负责全国户籍和赋税政策的制定。
大司空是冬官的长官，主要负责水土管理事务。汉朝时，御史大夫的称号曾被改为大司空。北周根据《周礼》设立了六官，大司空是冬官的长官，由卿担任。明清时期，大司空这一称号习惯上被用来称呼工部尚书。
