我國古代的散文創作同樣具有悠久的歷史。從文學史的角度來看，口頭文學最先起源於詩歌，書面文學最初當是散體的記錄，這些成文的記事作品從文學形式上看，就是散文或者歷史散文。《尚書》是現存最早的壹部古史，也是第壹部集記敘文和論說文的散文典籍。在春秋戰國這個學術文化大發展的時期中，散文創作也有突出的成就，這就是“諸子散文”和“歷史散文”的出現。此期產生的《論語》《孟子》《莊子》《荀子》、《韓非子》等都是優秀的諸子散文典籍。《左傳》《國語》《戰國策》等史學名著則屬於歷史散文典籍。歷史散文在漢代得到劃時代的發展，其代表性著作是司馬遷的《史記》和班固的《漢書》。政論文在漢代發達起來，西漢初賈誼的《新書》、東漢王符的《潛夫論》、仲長統的《昌言》等都是典型的政論文典籍。諸子散文在漢代則有董仲舒的《春秋繁露》、劉安等編的《淮南子》等典籍。自魏晉南北朝開始，散文逐漸向清新揮灑的方向發展。三國時曹操、曹丕、曹植父子三人的散文具有代表性，反映了這壹時期散文側重於抒情的特色。晉代陶淵明的散文，更發展了這種風格，在敘事、寫景中結合抒情。
從總體上看，魏晉前的散文偏於敘事，魏晉後的抒情散文逐漸多了起來。魏晉前以作家的個人散文專集較多，魏晉後的散文作品則多歸於總集和作家個人的別集。入唐以後，散文創作進入壹個重要的發展階段，唐中葉的韓愈、柳宗元等人倡導古文運動，反對六朝以來日趨僵化的駢體之風，使散文在寫景、抒情、言誌、敘事、論理等方面真正發揮了散文的文學性質。宋代的歐陽修、王安石、蘇軾、文天祥等人，繼承和發揚唐代古文運動的成就，寫出了大量優秀的作品。元代散文未能取得明顯的成就。明清兩代的散文則有持續的發展，明代散文中成就較大的如歸有光，他以抒情散文見長。晚明以袁宏道、袁宗道、袁中道“三袁”為代表的“公安派”和以鐘惺、譚元春為代表的“竟陵派”提倡文學改良主義，他們擅長抒情的短篇小品散文，提倡文章獨抒性靈，不拘格套，文筆清新流暢。明清之際，顧炎武、歸莊、屈大均等人的散文作品洋溢愛國主義的激情，各有成就。清代中後期，出現了以方苞、劉大櫆、姚鼐等人為代表的桐城文派，他們致力於古文復興運動，提倡作文“義法”，風行壹時，壟斷了清代文壇。早期的桐城派散文結構嚴謹，語言精煉，在寫作藝術上具有較高的技巧。