古代雖然沒有現代的漢語拼音，但也有講究音韻的規則，所以能寫出押韻的詩。
韻書，是古人所作的記錄和分析當時語音的著作。流傳於世的韻書基本上可以代表當時古漢語音韻的主流。現存最早的韻書是《廣韻》，《廣韻》的前身《唐韻》和隋代陸法言的《切韻》。
《切韻》記錄下了古代的以文字記錄發音的方法“切韻”。切韻，是用兩個漢字相“切”，來表示壹個漢字讀音的方法。切的前壹個字的聲母和被切漢字相同，而後壹個字的韻母，則和被切漢字的韻母相同。例如：童，徒紅切。其中徒的聲母為t，紅的韻母為ong，那麽“徒紅”就是t＋ong＝tong了，就是童的發音。類似的例子還有很多：三，蘇暫切；妳，乃裏切。
除了古人留下的記錄古音韻的韻書，還有韻圖和古籍中的註音。漢語詩詞極其講究語音的平仄對仗。所謂平仄，是指漢語音調。粗分，可分為“平上去入”，也就是“平聲”、“上聲”、“去聲”和“入聲”四個調。由於音調是直接受到聲韻母的影響的，於是，聲調的變化同樣反映了聲韻母的變化。平仄，就是“平聲”屬於“平”，而“上去入”三個聲，屬於“仄”。
古代的音韻