據專家考證，“小品”壹詞，晉代已經出現。《世說新語·文學》中有：“殷中軍讀小品，下二百簽，皆是精微。”劉孝標註雲：“釋氏《辨空經》,經有詳者焉，有略者焉，詳者為大品，略者為小品。又有人認為後秦高僧鳩摩羅什對《般若經》的翻譯，即這類佛經的簡本通常稱為“小品。”到晚明後期“小品”壹詞開始普遍地應用於文學，專指某種類型的作品，有用以名集者，如《眉公先生晚香堂小品》（陳繼儒）、《無夢集園小品》（陳仁錫）、《文飯小品》（王思任）；亦有用以名各種選本的，如《蘇長公小品》、《閑情小品》、《皇明十六家小品》。
小品文的體裁多種多樣，有遊記、速寫、隨筆、雜感（或稱雜文），寓言、序、尺牘等。這些文體在古人看來，與詩文正統文學相比是不登大雅之堂的，故在古代分類的文體論中，不見有單獨的“小品文”壹類。中國的文體論，發軔於魏晉，盛於齊梁以後。曹丕的《典論·論文》中把文分為奏議、書論、銘誄；陸機的《文賦》將文體分為九類，即賦、碑、誄，銘、箴、頌、論、奏、說，屬於“文”的有六種；晉·摯虞的《文章流別論》中也把文分為九類：詩、頌、賦、七、箴、銘、誄、哀、碑，屬於文的有五種。至南北朝，劉勰在《文心雕龍》中提出了著名的文、筆說，“無韻者筆也”，筆指各種散體文，他所列的二十種文體中，屬於無韻文的有十種，還出現了“雜文”這壹名稱（不過它屬於韻文），就是還沒有“小品文”。梁·昭明太子的《文選》將詩文分為三十八類，屬於散文的有二十壹種；到了明代吳訥的《文章辨體》和徐師曾的《文體明辨》，入選的文體更廣泛，分類更細密，前者***分文體五十九類，後者搜羅文體壹百二十七類,還是沒有提及“小品文”這壹名稱。
人們不禁要問：明代小品文如此興盛，名稱的應用如此普遍，為什麽出現在明代的二部分類書卻沒有“小品文”的壹席之地呢?分析原因：大約有三：
首先是諸家進行文體分類時，多以文章用途為依據，而小品文並非指專用的某壹類文體，故無法單列。
其次，“小品文”壹詞的概念，外延模糊，從邏輯上講，它與許多文體有交叉關系，與某些文體又多重合，比如劉基的《賣相者言》，既可歸之於寓言或雜文壹類，也可歸之為小品文。
其三，“小品文”在正統文人看來“既不宜說理，也不易傳道”，以致於“體裁與風趣，殊纖纖不足道”（陳煉青《論個人筆調的小品文》），故只能是小技、小道。傳統的文學觀念認為文章是經國之大業，不朽之盛事，應把明道宗經放首位，如《顏氏家訓·文章篇》所言：“朝廷憲章，軍旅誓誥，敷顯仁義，發明功德，牧民建國，施用多途。至於陶冶性靈，從容諷諫，入其滋味，亦樂事也。行有余力，則可習之。”小品文是屬於“行有余力”而可為之的文字；再與正宗的高文大冊（如策論、碑傳）以宏正典則為宗、高古渾樸的風格相比，小品文以隨意抒發感情為目的,風格比較自由活潑，因此顯得不夠莊重、嚴肅，且明代的小品文作家，大多思想離經叛道，自創壹種適性任情的文章風格，逸出封建正統文學的常規。而且小品文裏面頗有帶刺成分，正人君子又多有瘡疤，唯恐被刺到痛處，所以小品文從內容到形式都為“正統文人”所不齒，所痛惡，斥之為“濫調浮辭，卑不足道”，所以“小品文”終究難登文章的大雅之堂了。
小品”壹詞始見於晉代，作為壹種文體，它興盛於明代，但它不是無源之水，明代小品文最盛，作家對小品文的看法，代表了當時人的觀念，如袁中道對小品文特點的闡說，他在《答蔡觀察之履》中自述：
生少也賤，幸免為世法應酬之文，惟模寫山情水態以自賞適，終難列作者之林，……近閱《陶周望祭酒集》，選家以文家三尺繩之，皆其莊嚴整栗之撰，而盡去其有風韻者。不知率爾無意之作，更是神情所寄，往往可傳者。托不傳者以傳，以不必傳者易於取姿，炙人口而快人目。班、馬作文，妙得此法。今東坡可愛者,多在小文小說，其高丈大冊，人固不愛也。使盡去之，而獨存其高文大冊，豈復有坡公哉！
這裏的小文即指小品文，小說指壹則則小故事，多詼諧幽默，富有趣味，由此可見，小文與小說還是有區別的。明代袁宏道的好友江盈科也有《雪濤小說》，但他講壹則則小故事總是有寓意的，有明顯的議論文字，與純粹說小故事的“小說”有所不同，所以還是能歸入小品文壹類。
六朝小品中著名篇章最多的應推陶淵明，他的《五柳先生傳》、《與子嚴等疏》都是絕妙好辭，前者詼諧風趣的自畫對明代文人的自傳文、自為墓誌氣在風格、手法上的影響很大，後者是壹份給五個兒子的疏劄，這篇文字雖有訓戒、遺囑的莊重色彩，但讀來如敘家常，甚覺親切。這種如敘家常的筆調對明人特別是歸有光潛移默化的影響或多或少總是有的。其他如劉伶的《酒德頌》，向秀的《思舊賦》，王羲之的《蘭亭集序》、《雜貼》，陶淵明的《閑情序》、《遊斜川序》，謝靈運的《山居賦序》，陶弘景的《答謝中書書》等等，都是六朝有名的小品文。