究竟漢字甚麼時候從中國傳到日本沒有定論,不過壹般認為,漢字是於公元5世紀隨著壹些佛教僧侶將中國的經書帶到日本而傳入的。這些經書的漢字當初是模仿中國僧侶的發音來讀的,不過壹套稱為「漢文」的書寫系統開始得以發展。漢文主要是中文文章插入日語獨有的助詞,讓日語使用者可以依從日語的語法去閱讀漢字寫成的文章。
當時日文並沒有書寫系統。後來發展出壹套源自《萬葉集》、稱為萬葉假名的表音系統,萬葉假名使用的是壹套指定的漢字,純粹假借它們的發音來表記日文詩歌。以草書書寫的萬葉假名後來演變成今日的平假名。當時不被允許接受高等教育的女性也能使用這套平假名來書寫日文。平安時代大部分的女性文學都是以平假名來書寫的。片假名也是從差不多的方式發展的:寺廟裏面的學生把漢字的其中壹部分分拆出來成為片假名,用來標註漢字的發音,還有漢文裏的日語助詞。
隨著日文書寫系統得以成熟和發展,如今漢字用於大部分名詞、形容詞和動詞,而平假名則用來書寫動詞詞尾(送假名)、純日語詞匯、或者表記漢字難寫的辭匯。平假名也用於標記日文漢字的讀音(振假名)、和書寫給漢字水平不夠的人為對象的讀物,如小孩、日語學習者的書籍。