汉武帝即位后，司马谈担任太史令，为了工作方便，他举家迁至长安。在此之前，司马迁在黄河之阳进行耕牧，同时已经开始学习当时通行的文字——隶书。跟随父亲到达长安后，他又学习了“古文”，包括《说文》中的籀文和古文等，并向经学大师董仲舒学习公羊派《春秋》，向孔安国学习古文《尚书》。这些经历对年轻的司马迁影响深远。司马谈对道家思想的高度评价，以及他在学术上的深厚积累，无疑为司马迁日后编纂《史记》奠定了坚实的基础。司马迁在学习过程中不仅掌握了丰富的知识，还培养了批判性思维和严谨的治学态度。这些经历不仅丰富了他的学识，也为他后来成为史学巨匠奠定了坚实的基础。