大自考和小自考的主要区别在于学籍管理、收费项目和标准、考试及命题方式的不同。尽管二者颁发的文凭使用效力相同，考生可通过中国高等教育学生信息网查询学历。
在学籍管理方面，大自考考生只需在县区自考办报名即可取得考籍，而小自考考生则需在报考院校报名，且学籍档案在省教委备案。
收费项目和标准上，大自考的报考费用全省统一，一般为每科45元左右（各省费用略有不同），而小自考的收费则根据主办院校专业设置及开办情况按相关标准进行，通常比大自考更高，按专业不同，一般为3000至10000元不等。
学习形式方面，大自考主要是考生自学，也可选择助学单位辅助学习，而小自考一般需在经省考委评审通过的高等院校报读相关专业，学习时间地点相对集中。
考试时间也有所不同，大自考由省考办每年四月和十月组织两次考试，可重复报考，无合格时间限制（本科学位申请有特殊要求的除外），而小自考则在每学期期末考试，不及格者可参加补考。
考试及命题方式上，大自考由全国考委和省自考委联合出题制卷，而小自考科目设置分为统考课程和校考课程两类，统考课程由自考委组织命题和考试，校考课程则由学校命题考试。
收费项目和标准方面，大自考的报考费用全省统一，一般为每科45元左右（各省费用略有不同），而小自考的收费则根据主办院校专业设置及开办情况按相关标准进行，通常比大自考更高，按专业不同，一般为3000至10000元不等。
目前，大部分考生报读的是大自考——边工作边学习，自主安排学习及考试进度且费用较低。
从文凭承认度来看，大、小自考均是国家教育单位认可的办学模式，文凭在法律意义上承认度相同。小自考由于主考单位为省级教育部门，因此文凭跨省使用时可能会受到一些限制，但总体上，其含金量与大自考相当。
