3年後，他回到莫斯科改而從事文學。這期間，他積極參加文學小組和詩歌朗誦會，迷戀勃洛克，崇拜未來派和“列夫”派的作家，並開始寫詩。也就是在此時，他結識了俄國“事實文學”大師C?特列季亞科夫，後者對他後來的“文獻小說”產生了巨大影響。1936年沙拉莫夫發表他的小說《阿烏斯基諾的三次死亡》。可是，次年1月，沙拉莫夫又因參加“托派反革命活動”再次被捕，且被判5年徒刑，從此去了科雷馬集中營，輾轉幾處，被罰苦役。刑期剛滿，又因稱蒲寧是“俄羅斯偉大作家”被判10年徒刑,剝奪公民權利5年。這樣，他在科雷馬集中營度過後15年的苦役生活。
1946年沙拉莫夫在科雷馬有幸結識犯人醫院的醫生A?潘丘霍夫，在他的幫助下去了中心醫院學習醫士課程，結業後在那裏從醫。盡管在醫院沒有任何行動自由，但這裏的生存條件要遠比井下好。俄羅斯文學應當感謝這位好心的醫生，他不但挽救了這位俄羅斯集中營文學的又壹拓荒者，而且還把他送上了文學道路。正是在這裏，沙拉莫夫開始偷偷地寫他的《科雷馬詩抄》。
1953年冬天，沙拉莫夫獲釋回到莫斯科。但妻子與女兒已無法接納他，同時，莫斯科也不能接受他，他只好獨自去了加裏寧州的壹個小鎮住下。次年春天，在那裏他動手寫《故事》和詩集。1956年沙拉莫夫被平反，定居莫斯科，同年，與奧爾加?謝爾蓋耶夫娜?涅克留多娃成家。1957年他擔任《莫斯科》雜誌的記者，開始發表詩歌。壹年後他病重住院，並因殘疾而退休。1961年他的第壹個詩集《火鐮集》問世，其後他繼續創作《故事》、《左岸》、《鐵鏟藝人》。1964年詩集《樹葉的絮語》出版。
1967 年他的詩集《道路與命運》出版，同時開始撰寫自傳中篇《第四個沃洛格達》、《松樹的復活》和《維舍拉的別裁小說》以及《手套》（又名《科雷馬故事之二》）。這時，命運之神又接二連三地打擊他。他雙目漸漸失明，身軀日益行動不便。他再壹次與命運之神抗爭，在孤獨和病重中加緊創作，並先後於1972年和1977年出版最後兩部詩集《莫斯科的雲》和《沸點集》。但長期以來，讓沙拉莫夫最為痛苦的是，他的科雷馬系列故事因“缺乏勞動熱情”以及充滿“抽象的人道主義”而壹直未被允許出版。1978年，英國首次公開出版俄文版《科雷馬故事》，此後這部小說又分別在巴黎和紐約問世。1980年法國授予沙拉莫夫文學“自由獎”，此時，他已住進老年殘疾人醫院，雙目完全失明，沒有任何行動能力。但就是在生命的盡頭，他依然堅持口授創作。1982年1月17日沙拉莫夫終於走完了他那艱難的壹生，永遠安息在莫斯科特羅耶古羅夫斯基公墓。