究竟漢字甚麼時候從中國傳到日本沒有定論，不過壹般認為，漢字是於公元5世紀隨著壹些佛教僧侶將中國的經書帶到日本而傳入的。這些經書的漢字當初是模仿中國僧侶的發音來讀的，不過壹套稱為「漢文」的書寫系統開始得以發展。漢文主要是中文文章插入日語獨有的助詞，讓日語使用者可以依從日語的語法去閱讀漢字寫成的文章。
當時日文並沒有書寫系統。後來發展出壹套源自《萬葉集》、稱為萬葉假名的表音系統，萬葉假名使用的是壹套指定的漢字，純粹假借它們的發音來表記日文詩歌。以草書書寫的萬葉假名後來演變成今日的平假名。當時不被允許接受高等教育的女性也能使用這套平假名來書寫日文。平安時代大部分的女性文學都是以平假名來書寫的。片假名也是從差不多的方式發展的：寺廟裏面的學生把漢字的其中壹部分分拆出來成為片假名，用來標註漢字的發音，還有漢文裏的日語助詞。
隨著日文書寫系統得以成熟和發展，如今漢字用於大部分名詞、形容詞和動詞，而平假名則用來書寫動詞詞尾（送假名）、純日語詞匯、或者表記漢字難寫的辭匯。平假名也用於標記日文漢字的讀音（振假名）、和書寫給漢字水平不夠的人為對象的讀物，如小孩、日語學習者的書籍。