司马迁的父亲司马谈任太史令，写古今通史的愿望没有实现。临终要司马迁完成其夙愿，后来，司马迁继任父亲太史令之职，开始写《史记》，十多年后，终于完成。
司马迁早在20岁时，便离开首都长安遍踏名山大川，实地考察历史遗迹，了解到许多历史人物的遗闻轶事以及许多地方的民情风俗和经济生活。
汉武帝元封三年（公元前108年），司马迁38岁时，正式做了太史令，有机会阅览汉朝官藏的图书、档案以及各种史料。他一边整理史料，一边参加改历。等到太初元年（公元前104年），我国第一部历书《太初历》完成。
司马迁就开始撰写《史记》，汉武帝天汉二年（公元前99年），司马迁因为替李陵辩护，而被关入监狱，并处以宫刑。太始元年（公元前96年）司马迁出狱，后当了中书令，直到汉武帝征和二年（公元前91年），《史记》全书得以完成。