汉武帝杀了李陵全家,处司马迁以宫刑.腐刑是个大辱,污及先人,见笑亲友.司马迁在狱中,又备受凌辱,“交手足,受木索,暴肌肤,受榜棰,幽于圜墙之中,当此之时,见狱吏则头抢地,视徒隶则心惕息.”(司马迁《报任安书》)几乎断送了性命.他本想一死,但想到自己多年搜集资料,说:“人固有一死,或重于泰山,或轻于鸿毛.”.要写部有关历史书的夙愿,因此为了完成《史记》的写作,忍辱负重,希望出现一线转机
在公元前104年,司马迁开始着手编纂《史记》.
司马迁一生只写了《史记》,其父司马谈为太史令(相当于现在国家图书馆馆长一职).早年司马迁在故乡过着贫苦的生活.建元六年,窦太后死后,汉武帝罢绌黄老、刑名、百家之言,重新发动尊儒,这便是有名的“罢黜百家,独尊儒术”.汉武帝元朔二年,司马迁从阳夏(jiǎ) 迁居长安,后随家迁于京城,从孔安国学《尚书》,从董仲舒学《春秋》.随后他继承父业为太史令.公元前104年,司马迁在主持历法修改工作的同时,正式动笔写《太史公书》.天汉二年(公元前99年),他因为“李陵事件”,为投降匈奴的李陵求情,因此触怒了汉武帝,汉武帝认为他是在为李陵辩护,遂把司马迁抓了起来,并遭受宫刑.在狱中司马迁发奋图强,自强不息,忍受了常人所不能忍受的痛苦,继续编写《史记》.司马迁出狱后任中书令,继续发愤著书,终于于公元前91年完成了《史记》.
据司马迁自己说,他少年时期曾经“耕牧河山之阳”,也就是说他儿童时期曾经在家乡从事过一些农业劳动.后来他的父亲司马谈到长安做了太史令,司马迁随父亲也到了长安,在父亲的指导下,他刻苦读书,打下了深厚的文化基础,他拜了很多名师做老师.司马迁的家族,就是他这个家族,世代都是史官,而作为史官,他有责任来记载帝王圣贤的言行,也有责任来搜集整理天下的遗文古事,更有责任通过叙事论人而为当时的统治者提供借鉴.那么他的父亲司马谈就有志于整理中华民族数千年历史,试图撰写一部规模空前的史著.就是写一部史书,从他父亲开始就已有这么一个理想,他的父亲做太史令之后,就开始搜集阅读史料,为修史做准备.但是司马谈感到自己年事已高,要独立地修成一部史著,无论是时间、无论是精力,还是才学知识都还不够,所以司马谈寄厚望于他的儿子司马迁,希望他能够早日参与其事,最终实现这样一个宏愿