古人講話的聲音不可能保留到今天，研究語音的歷史發展，只能依靠古代的文字材料。漢字本身保留了大量的古代語音信息，古代詩歌的用韻和中古以後出現的各種韻書提供了極其豐富的語音資料，從現代方言的比較研究中更可以看出漢語語音演變的種種線索。此外，古代的音譯詞以及漢語和其他漢藏語系語言的比較也都能幫助人們了解漢語語音的歷史發展情況，但是這方面的研究工作還沒有真正展開。
對漢語語音歷史的研究傳統稱為“音韻學”，有悠久的歷史。壹般把漢語語音的發展分為 4個時期：①上古音時期──先秦至魏晉（約公元前10～公元 5世紀）；②中古音時期──南北朝至唐宋（5～13世紀）;③近古音時期──元代和明代（13～17世紀）；④現代音時期──清代至現代（17～20世紀）。對各時期的起訖時代目前還有壹些不同看法,但前後相差並不很大。每個時期都長達數百年甚至上千年，在壹個時期內自然還有不同階段的變化,各時期的方言分歧情況目前也了解很少,因此，研究古代各時期的語音，壹般只能選擇具有代表性的語音資料作為各時期語音系統的代表，然後旁及其他材料。
從上古音到現代音的2000多年時間內，漢語語音的基本結構並沒有改變,即音節分為聲母、韻母和聲調3部分，韻母又分為韻頭、韻腹和韻尾。2000多年來漢語語音的演變主要是聲母、韻母和聲調內部的變化，這些變化在現代方言中有時還能反映出來，例如上古音和中古音都有鼻音韻尾-m，到現代還保留在廣州話和其他壹些方言裏。 壹般以《詩經》韻腳和諧聲字所反映的語音系統作為代表。《詩經》並非壹時壹地的作品，諧聲字是用聲旁表音的字（如“途、除、徐、敘、斜”都用聲旁“余”表音），來源更要復雜壹些，但這兩種材料反映的語音系統是相當壹致的。上古音距今已逾千年,語音資料也較零散，目前只能推測出上古音系的基本輪廓，對其中的細節還有待進壹步研究。
上古聲母***有30個左右。其中p、 p‘、 m、 t、t嶉、n、l、k、k‘、嬜、x、堭、堭‘、s是從上古直到現代絕大多數方言都存在的聲母，表現了漢語聲母的歷史繼承性。上古濁塞音聲母 b、d、ɡ和濁塞擦音扷也還保留在現代壹些方言裏,其余十幾個聲母的性質則各家說法很不壹致。上古很可能還存在 kl、pl之類的復輔音聲母，例如在諧聲字中，舌根音聲母k、k‘往往和邊音聲母l互諧,“各”既可以作“格、閣、客”的聲符，也可以作“洛、路、略”的聲符，這些字很可能原來都是由kl之類的復輔音演變來的。對上古音是否有復輔音以及有多少復輔音，目前還有種種不同看法。
根據《詩經》用韻和諧聲字的情況，傳統把上古韻母分為若幹韻部,用壹個漢字來代表,如“之部、幽部”等等，上古韻部***有30個左右。同韻部的字只是韻腹和韻尾相同，韻頭可以不同，因此每個韻部實際不只包含壹個韻母。根據韻尾的不同可以把上古韻部分為陰、陽、入3大類:有鼻音韻尾-m、-n、-嬜的是陽聲韻，有清塞音韻尾-p、-t、-k的是入聲韻，其余的都屬於陰聲韻。如果韻腹相同，陰陽入 3類往往可以相互押韻或諧聲，如《詩經·鄭風·女曰雞鳴三章》“知子之來之，雜佩以贈之”中，“來”和“贈”押韻，就是因為這兩個字在上古韻腹相同，都是 ?amp;#91;，只是“來”屬於陰聲韻，“贈”則屬於有鼻音韻尾-嬜的陽聲韻，這種押韻現象傳統稱為“陰陽對轉”。
大多數上古韻母的讀音和現代相去甚遠，和中古也有很大區別。例如“姑”現代韻母是 u，中古相同或近似，上古時韻母則可能是a;“臺”現代韻母是ai，中古也是類似的復元音，上古時韻母則可能是?amp;#91; 。也有壹些韻母如an、?amp;#91;n、a嬜、?amp;#91;嬜等從上古經中古到現代變化不大，象“班” pan和“登”t?amp;#91;嬜 等字的讀音2000多年來並沒有顯著的改變，但這類字究竟是少數。目前對上古音韻頭的多少、韻部的分合以及陰聲韻是否也有輔音韻尾等問題有種種不同看法，還遠沒有取得壹致的意見。
現存的上古音語音資料不能系統地反映出上古聲調情況，歷來對上古聲調的看法分歧也最大。目前較有影響的有3種意見：①上古和中古壹樣,分為“平、上、去、入”四聲;②上古沒有去聲;③上古只有平聲和入聲，但各分長短兩種。近年來從漢藏系語言的比較研究中又產生壹種新意見，認為漢語在遠古時期可能並沒有聲調的分別，聲調是遠古時期不同的韻尾輔音脫落或保存才逐漸產生的。 壹般以隋唐時期盛行的韻書《切韻》的語音系統作為代表。魏晉南北朝是從上古音向中古音轉變的時期，南北朝時已經出現了許多供作詩押韻用的韻書，對當時的語音系統做了壹定的分析和歸納，隋代陸法言集各家之大成，於 601年編成《切韻》壹書。《切韻》的原本和它以前的韻書今已佚，現存的《切韻》都是後人的增訂本，而且大多是殘卷。目前流傳最廣的完整增訂本是宋代陳彭年等編的《大宋重修廣韻》，《廣韻》對《切韻》的增訂主要在字數和釋義，對《切韻》的語音系統並沒有重大的改動，現在研究《切韻》音系壹般就都以《廣韻》為主要依據。《廣韻》把當時的語音系統分析歸納為四聲、206 韻，每韻內又根據聲母的不同分為若幹小韻，這個語音系統是否代表當時壹時壹地之音，目前尚無定論，但它能分門別類詳細列舉出隋唐時期聲母、韻母和聲調的情況，是研究中古音最重要的語音資料。
《切韻》並沒有系統地列出它的聲母系統，根據後人分析歸納，大體上是和傳統的三十六字母相當的。三十六字母可能起源於唐末,到宋代經過不斷補充修訂,基本上能代表當時的聲母系統。每個字母用壹個漢字來代表，至於它們的實際讀音，經過多年研究，目前已大致取得壹致的意見。但為了便於說明中古的聲母系統，目前壹般仍沿用三十六字母的名稱,例如,用“幫、滂、並、明”代表中古聲母p、p‘、b、m,用“端、透、定、泥”代表中古聲母t、t嶉、d、n等。上古聲母有相當壹部分仍保存在中古音中，但大都經過了較為復雜的分化或合並的過程，並不完全是壹對壹的關系。
《切韻》把不同聲調的韻母算作不同的韻，每個韻用壹個漢字來代表,例如“東韻”、“江韻”、“魚韻”、“真韻”等。在計算中古韻母時,如果只是聲調不同,就只能算是壹個韻母,例如“之韻”、“止韻”和“誌韻”的分別只在聲調，實際上只是壹個韻母。《切韻》***列出193個韻，《廣韻》增訂為206韻，除去聲調的分別不計,只有90多個韻。當時的分類不大重視韻頭的作用,有時把不同韻頭的韻母合並成壹個韻，例如，“刪韻”就包括開口呼和合口呼兩類韻母，可是“寒韻”和桓韻又根據開口呼和合口呼的不同分成兩韻。如果把該分開的韻母都分列出來，實際上***有150多個不同的韻母,這說明《切韻》所記錄的韻母系統是相當復雜的。
中古音的韻頭只有 i-和 u-，但隋唐時期韻頭i-可能還分為長短兩類，這樣就有了三種不同的韻頭。中古音的韻腹元音非常豐富,這是中古韻母多達150多個的主要原因。近幾十年對中古韻腹元音的實際讀音做了相當細致的研究和推測，其中大部分已經取得了比較壹致的意見。中古音的韻尾繼承了上古陰聲韻、陽聲韻和入聲韻的分別。陰聲韻的韻母除沒有韻尾的(如“歌韻”)以外,還包括元音韻尾-i(如“灰韻”)和-u(如“豪韻”)。中古陽聲韻的鼻音韻尾和入聲韻的清塞音韻尾與上古相同。在《切韻》的韻母系統中,入聲韻和陽聲韻相配,即-m和-p相配,-n和-t相配，-嬜和-k相配,例如東韻”-u嬜和屋韻-uk相配,刪韻”-an和“轄韻”-at相配,“銜韻”-am和“狎韻”-ap相配等等，形成相當整齊的局面。
中古音的聲調分為“平聲、上聲、去聲、入聲”4類。《切韻》以聲調為綱,在四聲之下分列各韻,後代韻書壹般都遵循這種編排方法。平聲、上聲和去聲的分別主要在音節的高低升降不同;入聲則是韻尾收-p、-t、-k的發音短促的入聲韻，和另外三聲的陽聲韻相配，例如“東、董、送、屋四韻的分別就在於“平、上、去、入”四聲不同,至於陰聲韻如之、止、誌、“魚、語、禦”等則只有“平、上、去”三聲。從中古到現代四聲的發展和聲母的清濁關系很密切,為了便於說明這種關系,習慣上把中古的四聲分為陰陽兩類：中古是清音聲母的稱為“陰平、陰上、陰去、陰入”,如“官、管、灌、括”;中古是濁音聲母的稱為“陽平、陽上、陽去、陽入”,如“郎、朗、浪、樂”。
在唐初，已有人批評《切韻》分韻過細，不利使用，說明《切韻》的語音系統已與當時的口語不盡相合。從《廣韻》開始，已在《切韻》的壹些韻目下註明與某韻“同用”，實際就是承認這兩個韻並沒有明顯的區別。到宋末元初時，為了便於作詩，壹些韻書根據《廣韻》“同用”的辦法，索性把206韻合並為106韻,這106韻從此成為做舊體詩押韻的規範。最早合並的是平水人劉淵主持刊行的《壬子新刊禮部韻略》(1252),因此世稱這106韻為“平水韻”。平水韻主要只是把《廣韻》韻目中同用各韻加以合並，並不能真正代表宋元時期口語的語音。 壹般以元代周德清所編《中原音韻》的語音系統作為代表。《中原音韻》成書於1324年，正是元代戲曲盛行的時期，周德清根據當時北曲作家用韻的情況歸納整理成書，成為寫作北曲用韻的準繩，對中國古代戲曲創作有很大影響。《中原音韻》是專為戲曲而作的，因此能跳出《切韻》系統韻書的窠臼，記錄下活躍於元代舞臺上的北方語音系統。至於這個語音系統是否能代表當時的元大都（今北京）的方言，目前尚有不同看法，但它無疑是現代北方官話的源頭，代表了漢語語音發展的壹個重要階段。
《中原音韻》所代表的近古音語音系統比《切韻》所代表的中古音語音系統簡單得多，已經相當接近於現代北京話。《中原音韻》改變了《切韻》以聲調為綱的編排方法，改為以韻為綱，各韻之下分列聲調，然後再分為若幹小韻，同音字都列在同壹小韻內，並沒有單列聲母。根據小韻的分布情況來分析，《中原音韻》可能***有20個聲母(不包括零聲母)，和現代北京話已很近似。漢語的聲母系統從中古到近古大大簡化，主要是因為中古大部分濁音聲母到近古變成了清音，除了m-、n-、l-等少數濁音聲母外,其余都變成清音,和原來的清音聲母合並,例如“步”b-並入“布”p-,“在”扷-並入“再”堭-，“似”z-並入“四”s-等。
《中原音韻》把韻母分為19個韻部，以兩個漢字命名，如“東鐘、江陽、支思”等,這只是韻母的大類,各韻部內還包括韻頭不同的韻母。19個韻部實際***包括40多個韻母，只有中古韻母的 1/3左右，這主要是因為中古入聲韻到近古已經全部消失，和陰聲韻完全合並。此外，中古有不少韻母的韻腹元音非常接近，到近古也合並在壹起了,例如“東、冬、鐘”在中古本是3個韻，到近古就合為壹韻。近古音的韻頭可能只有i和u，韻頭y 當時是否已經出現，目前還有不同看法，但至遲到明代就已經形成了現代四呼的局面。中古的鼻音韻尾-m、-n、-嬜和元音韻尾-i、-u在《中原音韻》中仍完整地保存，但不久-m就和-n合並，只留下了-n、-嬜兩套鼻音韻尾。中古的塞音韻尾-p、-t、-k由於入聲韻消失，也不復存在，其中有不少並入元音韻尾-i、-u，如“麥”並入“賣”，“腳”並入“攪”；另壹些韻尾則完全失落，和原來的無韻尾韻母合並，如“舌”並入“蛇”，“滑”並入“華”。
《中原音韻》 把聲調分為“陰平、陽平、上聲、去聲”4類,和現代北京話完全相同。中古的平聲根據聲母的清濁到近古分為陰平和陽平兩類：中古清音聲母讀陰平，如“通、詩、坡、春”；中古濁音聲母讀陽平，如“同、時、婆、純”。由於中古濁音聲母到近古大部分都已變成清音，因此陰平和陽平就純粹是聲調的區別了。中古和近古雖然都有上聲和去聲，但內容不盡相同。中古濁音聲母中除m-、n-、l-等少數以外，讀上聲的到近古都變成了去聲，如“上”和“賞”、“杜”和“賭”在中古都讀上聲，但是“上”、“杜”是濁音聲母，到近古就讀成去聲,“賞”、“賭”是清音聲母,仍舊讀上聲。從中古到近古聲調最大的變化是入聲不再獨立成為壹類，中古的入聲字到近古分別歸入陽平、上聲和去聲，如“達”歸入陽平,“筆”歸入上聲,“麥”歸入去聲。近古以後，壹部分歸入上聲的入聲字又改歸陰平，如“說、瞎、督”，《中原音韻》歸入上聲，現代北京話都讀成陰平。至於《中原音韻》時期入聲是否已經完全消失，目前仍有不同看法，但入聲在當時已喪失獨立作為聲調的地位，則是可以肯定的。
語音的發展是不平衡的，漢語有壹些方言到目前還保留著中古音甚至上古音的壹些特點。例如,廣州話完整地保存3套塞音韻尾-p、-t、-k和鼻音韻尾-m,蘇州話系統地保存濁音聲母b-、d-、g-、扷-、z-等。至於入聲獨立作為聲調，不但長江以南大部分方言仍然如此，從黃河下遊中原地區直至西北地區也有不少方言仍舊有入聲，保存了近古以前漢語聲調的壹個重要特點。