唐代守溫在分析漢語聲母韻母和聲調的基礎上，制定了描述漢字語音的三十六字母，說明當時我國的語音分析已經達到很高的水平，可惜他用漢字來表示這些聲母和韻母，因此，這樣的字母沒有進壹步發展成拼音文字。
500年前我國部分穆斯林少數民族中曾經使用“小經”文字，這種文字是壹種阿拉伯文字。用阿拉伯字母來拼寫漢語，比唐代守溫用漢字來表示聲母和韻母又進了壹步。***有36個字，其中4個字母是特有的，這可能是我國最早的用來拼寫漢語的拼音文字，它不再帶有漢字的痕跡，完全采用拼音字母。“小經“同時也為東鄉、撒拉等民族使用。
明朝末年西方傳教士來中國傳教，為了學習漢字，他們開始用拉丁字母來拼寫漢語。1605年，意大利耶穌會傳教士利瑪竇(Matteo Ricci, 1552-1610)在北京出版了《西字奇跡》，其中有4篇漢字文章加了拉丁字母的註音。這是最早用拉丁字母給漢字註音的出版物，比“小經”用阿拉伯字母給漢字拼音稍晚，“小經”大概是最早用字母文字給漢字拼音的嘗試。《西字奇跡》原書已不容易找到，據說，梵蒂岡圖書館尚有藏本。
1626年，法國耶穌會傳教士金尼閣在杭州出版了《西儒耳目資》，這是壹本用拉丁字母給漢字註音的字匯。註音所用的方案是在利瑪竇方案的基礎上修改的。 利瑪竇和金尼閣的方案是以“官話讀書音”為標準設計的，適於拼寫北京語音。這種新穎的拼音方法給中國學者以很大的啟迪。明末音韻學家方以智說：“字之紛也，即緣通與借耳。若事屬壹字，字各壹義，如遠西因事乃合音。因音而成字，不重不***，不尤愈乎？”清朝學者楊選杞說：“辛卯戶糊口舊金吾期翁家，其猶子蕓章，壹日出《西儒耳目資》以示余，予閱未終卷，頓悟切字有壹定之理，因可為壹定之法”。但是，在兩三百年間，利瑪竇和金尼閣的方案只是在外國傳教士中使用，沒有在中國人當中廣為傳播。
1815年到1823年之間，在廣州傳教的英國傳教士馬禮遜編了壹部《中文字典》，這是最早的漢英字典，字典中用他自己設計的拼音方案來拼寫漢語的廣東方言，實際上是壹種方言教會羅馬字。接著，在其他的方言區也設計了不同方言的方言教會羅馬字。其中廈門的“話音字”1850年開始傳播，僅在1921年就印刷出售五萬冊讀物，直到新中國成立以前，大約還有十萬人左右使用這樣的方言教會羅馬字。其他各地的方言教會羅馬字，在南方的通商口岸傳播，主要用來傳教。
1867年，英國大使館秘書威妥瑪(Thomas F. Wade)出版了北京語音官話課本《語言自邇集》，他設計了壹套拼寫法，用拉丁字母來拼寫中國人名、地名和事物的名稱，叫做“威妥瑪式”。 1931年到1932年間，有兩個外國傳教士提出了“辣體漢字”，這是壹種根據《廣韻》設計的、以音節為單位的漢語拉丁字母文字，同音字幾乎都有不同的拼寫法，拼寫的是方言。 這些用拉丁字母拼寫漢字的方案，為以後的漢語拼音運動提供了經驗。