古時，除了少數的語言學者外，壹般人們不知道壹個語言的語音會有發展變化，在閱讀先秦古籍時（如《詩經》）發現壹些不和諧的音韻，為了求和諧，將這些不諧音的字臨時改念，這種做法稱作“葉音”（xiéyīn）。明末學者顧炎武研究認為《詩經》中的每個字都有自己固定的讀音，但因先秦時期漢語字音是有著不同於現時發音的語音系統，導致用今音念《詩》會出現韻腳不諧音的情況，但若用先秦的語音系統來讀則韻腳自然諧和，就沒有“葉音”的必要了。清代學者段玉裁在研究先秦古籍時又發現壹個重要的現象，就是諧音字的偏旁與《詩》中的韻腳相吻。他提出了“同聲必同部”的理論，為上古音韻學的研究邁出了第壹步。
按照段“同聲必同部”的理論，凡《詩》中用作諧音字的偏旁相同，則必定在先秦音系中屬同壹韻部。例如“瓜”字在《詩》中與“壺”、“苴”、“樗”、“夫”四字押韻，今音 guā 顯然不與 hú、jū、chū、fū 四音押韻，但在先秦音系中則和諧。且《詩》中偏旁為“瓜”字的“孤”、“弧”、“狐”等字也同時與“瓜”、“壺”、“苴”、“樗”、“夫”擁有相同的韻部。 古無輕唇音：上古沒有“非敷奉微”這組四個輕唇聲母，其對應今天語言學界所說的唇齒音。 古無舌上音：上古沒有“知澈澄娘”這組四個知組聲母，或可對應今天語言學界所說的卷舌音。 古人多舌音 喻三歸匣 娘日二母歸泥 喻四歸定 上古漢語聲母約有多家學說，對於聲母數量、具體音值、復輔音問題等都有很多不同看法。此外，上古漢語存在送氣清音、不送氣清音、濁音、鼻音的對立。
補充上古聲母系統
上古聲母嬗變的學說，不同學者有不同的見解。大致上可歸納為以下幾點： 錢大昕《潛研堂文集》卷十五《答問第十二》：“凡今人所謂輕唇者，漢魏以前 ，皆讀重唇，知輕唇之非古矣。”意思是上古時沒有“非敷奉微”（音位依時期或為pf、pfh、bv、f、v、mv等）等輕唇音，這些輕唇音的字都讀成重唇音。輕唇音大致上到中古後期，大約宋朝時候才出現。
例： “澭水暴益，荊人弗知。”—《呂氏春秋·察今》 註釋：“不，與弗同。” 錢大昕《十駕齋養新錄》卷五《舌音類隔之說不可信》：“古無舌頭舌上之分，‘知徹澄’三母……求之古音，則與‘端透定’無異。”“知徹澄娘”等舌上音在中古前期出現，慢慢過渡，所以，今天某些以“知徹澄娘”等舌上音為聲母的字，在隋唐時可能仍以“端透定泥”（t/th/d/n）等舌頭音為聲母。
例： “田氏代齊－－春秋初年，陳國發生內亂。公子完逃奔齊國，被齊桓公任命為工正。這是陳氏（即田氏﹐古代陳田同音）立足於齊國的開始。”（錢宗範等《春秋戰國史話》） 田《說文解字》：陳也。樹谷曰田。象四囗。十，阡陌之制也。凡田之屬皆從田。待年切。古音定母。 陳《說文解字》：宛丘，舜後媯滿之所封。從阜從木申聲。直珍切。軙、敶，亦古文陳。古音定母。 曾運幹《喻母古讀考》：“喻於二母（近人分喻母三等為於母）本非影母濁聲：於母古隸牙聲匣母，喻母古隸舌聲定母。”意思是上古沒有喻三（j）這聲母，它在古時可歸為匣母（gh）。
例： “出之燁然﹐玉質而金色。”—《賣柑者言》 註釋：“燁﹐從火華聲。” 今音：燁，余三於母；古音:從華聲。華，匣母。 以上三點，學界之間多無異議。 錢大昕《十駕齋養新錄》卷五《舌音類隔之說不可信》：“古人多舌音﹐後代多變為齒音，不獨‘知徹澄’三母為然也。”中古前期有兩組正齒音，莊系與章系，兩組***10個聲母，到中古後期音位合流為壹組（因該時韻母互不對立），古代等韻學壹般分別稱為“照二”及“照三”，以其莊系在等韻圖中章列在第二等，章系則列在第三等。
例： “武松讀了印信榜文，方知端的有虎。”《水滸傳·武松打虎》 註釋：“‘端的有虎’便是‘真的有虎’”端，端母，‘真’，‘章’母。 曾運幹《喻母古讀考》：“喻於二母（近人分喻母三等為於母）本非影母濁聲：於母古隸牙聲匣母，喻母古隸舌聲定母。”意思是上古沒有喻4(j)這聲母，它可歸為定母。
例： “不聞機杼聲，唯聞女嘆息。”《木蘭辭》 “見其發矢十中八九，但微頜之。”《賣油翁》 註：“呂叔湘先生《中國文法要略》中說：‘但、特、惟等字，也都是“只是”的意思。’這是什麽道理呢？‘但’‘特’的古聲母都是 d，‘惟’的古聲母是j即‘喻’紐四等字，曾運幹《喻母古讀考》提出‘“喻”母四等字古隸舌聲“定”母’，這是對古音學，訓詁學的壹大貢獻。‘惟’‘只’的古聲母都是 t音系，因此‘但’‘特’‘惟’都是‘只是’的意思。”（黃嶽洲《文言難句例解》） 章太炎《國故論衡》中的《上古音娘日二紐歸泥說》：“古音有舌頭泥紐，其後別支，則舌上有娘紐，半舌半齒有日紐。於古皆泥紐也。”意思是聲母“娘”(nr)和“日”(gn/nj)古時屬“泥”(n)聲母，兩紐由“泥”母發展而成。
林偉業指出錢大昕“古無舌上音”己指出中古前期始出現的“知徹澄”上古為“端透定”，但他沒有論及“娘”與“泥”的關系，這不是由於他掛壹漏萬，而是本著以事論事精神，當時還未有證明“娘”古亦當為“泥”的證據，因此，明知極可能如此，也只好實話實說。後來章太炎找出證據，證明“娘”古亦當為“泥”，以進壹步補充錢大昕的學說。
例： “合於桑林之舞，乃中經首之會。”《庖丁解牛》 註釋：“‘乃’是‘而’的古讀。”（黃嶽洲《文言難句例解》） 黃侃《黃侃論學雜著》中的《聲韻略說》：“由精而變者，曰莊；由清而變者，曰初；由從而變者，曰床；由心而變者，曰邪，曰疏。”楊柳橋《漢語音韻學講義》認為，清人夏燮己於《述韻》初步提出“照二歸精”的看法，到黃侃提出更完整的說法。所謂“照二歸精”，即莊、初、崇、生四聲母，上古歸於，精、清、從、心四聲母。
以上四點則大致受學者支持（亦存反對者），但仍須加以修正。
古無邪紐（古邪歸心）古無群紐（古群歸溪）
以上兩點，最為章太炎、黃侃學派的後學支持，亦有不少學者對此兩點抱有懷疑。
如果以上九點成立，可推論得出中古聲母37紐，歸並為19紐。 英國牧師艾約瑟創古有復輔音聲母說，高本漢、林語堂、董同和、陸誌偉等繼之。目前，對於上古漢語是否有復輔音聲母，存在不同意見。 藏緬語、壯侗語、苗瑤語中與漢語同源的詞匯有不少有復輔音聲母。 壹個諧聲偏旁可以同時代表兩個有截然不同的聲母的音節，可以認為這個諧聲偏旁原本為復輔音聲母。 從韻書中的聲訓、讀若、又讀等聲訓標音法，和現代漢語中存在的壹些異體字、通假字、聯綿字、古今方言（尤其是吳語，或粵語系之臺山話）中，可以看出壹些復輔音的遺跡。 由諧聲偏旁構擬的復輔音十分復雜，甚至有不止兩個輔音的現象，遠遠超過支持者所聲稱的範圍。 支持者難以說明復輔音是如何分化為不同輔音的。 即使是支持者，目前對於上古有多少個復輔音聲母，如何構擬這些聲母，哪些字屬於復輔音聲母，它們如何分化為不同單輔音這些問題，還是遠遠沒有弄清楚。
舉例
例如：“各”，現時普通話的讀法將之讀作/k?/，粵語讀作/kok/，但它的上古音可能是/klak/，以致： “格”、“恪”、“鉻”的聲母是/k/，但 “洛”、“落”、“駱”的聲母卻是/l/。 例如：“監”，現時在普通話讀作jian，粵語讀作/kam/，但它的上古音可能是/kram/： “尷”今仍保留/k/。 “鑒”與“監”粵語音聲母相同，皆為/k/（普通話顎化為/t?/）。但， “藍”、“檻”、“濫”等字卻讀作/lan/（普通話）/ /lam/（粵語） “艦”在今日普通話的聲母為j（原/k/）；但在粵語卻是/l/。 其他的可能例子還有：龍/龐 (*pl-)；兼/簾 (*kl-)；湯/陽 (*ty-) 等。
疊韻
有些疊韻字也可以作為上古有復輔音或次要音節的證明。例如“角落”或作“旮旯”，就可能是上古“角”字的分拆。“命令”也有可能是上古“命”的分拆。 漢語發音從《詩經》到南北朝已經發生了重大的變化，南北朝人讀先秦文獻的時候，發現有許多押韻不和諧的地方了。當時人對《詩經》的註解反映他們遇到的困難：當《詩經》的韻腳不押韻時，他們牽強的改其中壹個字的音使其押韻，認為這樣讀起來更加和諧。例如： “燕燕於飛，上下其音，之子於歸，遠送於南” -- 《詩經·邶風·燕燕》 在這首詩中的“音”和“南”兩個字押韻。北梁人沈重在《毛詩音》中指出：“南：協句，宜乃林反”。他用反切的方法標註他認為正確的讀音。這個方法叫做“協韻”。隋朝人陸德明認為不應該使用協韻法，因為他認為古代人押韻不嚴謹，沒有必要改正《詩經》的讀音。他指出：“沈雲協句宜乃林反，今謂古人韻緩，不煩改字”。
在宋朝，朱熹等人繼承了南北朝的協韻法（亦稱“葉音”），並非常用這個系統的方法來改正《詩經》和《楚辭》裏所謂“不和諧”的韻腳字的讀音。他們認為，古人對韻腳字可以臨時改讀，他們還沒有發現隨著時間的推移而變化的發音原則，他們以為先秦時代的古人的發音和宋朝人壹樣。但是，在這個時代，吳棫在《毛詩葉韻補音》等著作中發現《詩經》的押韻現象是有規則的，他通過對韻腳字系統的考察，把中古韻類歸納成九個韻部。雖然吳棫缺乏明確的歷史概念（他把唐宋和先秦的韻腳字混為壹談）他的研究邁出了進入正確的路線的第壹步，為後代的學者開辟了研究古音的新途徑。除了他以外，鄭庠、項安世、程迥等人進行了古音的研究。
最早用科學的方法研究上古音的學者是顧炎武。他繼承了陳第的想法，認為“古詩無葉音”，並旨在恢復古代漢語的發音（“復古”）。他發明了“離析唐韻”的研究方法：把《詩經》的韻腳整理起來，分析這些字的押韻行為。在《詩經》押韻的字通常屬於《廣韻》的不同韻類，這是因為這些字的韻母在上古音相近或者相同，後來到中古音變得不壹樣。但是，上古音的押韻行為有理可尋，可以按照這些押韻行為把中古韻類分配成幾個組，這些組叫做“韻部”，同壹個韻部的中古韻類可以在《詩經》押韻，但是有些中古韻類同時出現在幾個不同韻部。顧炎武把韻類歸納成十個韻部。雖然他對韻部的劃分不夠嚴謹，忽略了許多重要的對立，但是他建立了上古音研究的奠基，壹直到現在，他的“離析唐韻”是上古音構擬的原則之壹。
清朝學者構擬古音的方法與現代語言學家不同。他們當時認為，屬於同壹個韻部的中古韻類在上古時代有相同的發音，後來其中壹個韻類（“古本韻”）保留了原始的發音，其他的韻類發生了變化（“變韻”）。這個構擬方法有嚴重的缺陷。
陰陽入韻對轉 上古漢語 原始藏緬語 原始漢藏語 意義 *njit *niy *njit ~ *njid 日 這就是陰入韻對轉的例子。另外也有陰陽對轉、陽入對轉的現象。 有的時候壹些學者會把上古漢語和原始漢語混為壹談。原始漢語很有可能是無聲調語言。1954年法國學者奧德裏庫爾（Haudricourt）通過歷史比較法的考察，發現越南語的聲調是已經脫落了的韻尾的痕跡，這些韻尾在比較原始的親屬語言中（如克木語）仍然存在。他發現，越南語的上聲來自喉塞音-?，去聲來自-s。由於越南話和漢語的聲調系統很相似，因此他提出漢語的聲調有同樣的來源，原始漢語沒有聲調。但許多學者認為上古漢語至少在《詩經》時代應該已經產生了聲調。