南北朝時期，許多文人致力於文學創作，使用的主要文學文體是詩歌和駢文。南朝的山水詩在謝靈運手中熠熠生輝，而後謝朓的山水詩清新醇厚，被譽為“大小謝”。詩人鮑照出身貧寒，卻善於用七言古詩表達憤世嫉俗的情懷。他的押韻七言歌為七言詩的發展做出了貢獻。北方的文遠略顯落寞，但也有不少著名的雜文，如北魏李道元的《水經註》、楊玄之的《洛陽伽藍筆記》、北齊顏之推的《顏氏家訓》等。最成功的作家是從南到北的庾信。他的《詩賦》是南北文學的傑作，將南方精湛成熟的藝術技巧與北方雄渾爽朗的精神融為壹體，成為唐代詩風的先行者。這壹時期駢文主導了整個文壇。鮑照的《爬雷岸與姊妹書》、庾信的《婺城賦》、《江南賦》都是佳作。總的來說，南朝文人對形式氣質的追求為唐代文學尤其是近體詩的定型和成熟做了充分的準備。
此外，南北朝的樂府民歌也足以反映漢代的樂府詩。南朝的吳歌、戲曲明快婉約，北朝的少數民族歌曲蒼勁有力，風格各異，但都是真摯的。
魏晉南北朝社會、學術思想和文學觀念的變化，以及文學的審美追求，帶來了詩歌的變化。從題材上看，有懷鄉詩、史詩、遊仙詩、玄言詩、宮體詩，也有陶淵明創作的田園詩和謝靈運創作的山水詩。在詩風上，五大古詩更加豐富多彩，七大古詩也有明顯進步。作為正規詩歌的開端，“永明體”出現了。中國古代詩歌的幾種基本形式，如五律、五絕、七律、七絕，都是在這個時期形成的；在修辭方面，對美的追求越來越流行。藻飾、駢偶、旋律、典故成為常用手段。