究竟漢字什麽時候傳到日本沒有定論，不過壹般認為，漢字是於公元5世紀隨著壹些佛教僧侶將中國的經書帶到日本而傳入的。這些經書的漢字當初是模仿中國僧侶的發音來讀的，不過壹套稱為「漢文」的書寫系統開始得以發展。漢文主要是中文文章插入日語獨有的助詞，讓日語日文漢字使用者可以依從日語的語法去閱讀漢字寫成的文章。
後來發展出壹套源自《萬葉集》、稱為萬葉假名的表音系統，萬葉假名使用的是壹套指定的漢字，純粹假借它們的發音來表記日文詩歌。以草書書寫的萬葉假名後來演變成今日的平假名。當時不被允許接受高等教育的女性也能使用這套平假名來書寫日文。平安時代大部分的女性文學都是以平假名來書寫的。片假名也是從差不多的方式發展的：寺廟裏面的學生把漢字的其中壹部分分拆出來成為片假名，用來標註漢字的發音，還有漢文裏的日語助詞。
隨著日文書寫系統得以成熟和發展，如今漢字用於大部分名詞、形容詞和動詞，而平假名則用來書寫動詞詞尾（送假名）、純日語詞匯、或者表記漢字難寫的詞匯。平假名也用於標記日文漢字的讀音（振假名）、和書寫給漢字水平不夠的人為對象的讀物，如小孩、日語學習者的書籍。
片假名則由於它的方形結構，用於象聲詞和外來語。片假名用來書寫外來語的習慣來的比較晚，外來語原先是用漢字書寫表意的，如「煙草」代表“tabako”。不過現在反過來有許多外來語詞匯正在代替壹般詞匯。有語言學家估計現今常用日語有3分之1是外來語及和制英語。