雖然日本文化在形成和發展過程中總是以外來文化為媒介，但它畢竟有自己的根。日本文化就像壹棵樹，它的根深深植根於日本的習俗。如果考察其起源，可以追溯到公元前幾千年的繩紋時代。"繩文化、彌生文化和古墓文化是日本原始文化的三個時期."
日本歷史是從石器的出現開始的，繩紋時代就是日本的石器時代。考古發掘的那個時期的陶器，表面有彩色的草繩外觀，史稱繩陶。繩陶歷史悠久，外觀越來越復雜，圖案也越來越豐富多彩，可見當時制陶技術的成熟和石材加工的發展。雖然日本已經處於新石器時代，但由於島國的地理位置，歐亞大陸的先進文化在當時未能進入日本。繩紋人生活在堅硬的洞穴裏，仍然以捕魚、狩獵和采集為生，但他們不知道如何耕種。生產力的滯後也使其社會停留在當時的母系氏族公社階段。巫術主宰著人們的原始社會生活和精神生活。
從公元前2世紀到公元3世紀，日本歷史進入彌生時代。考古學家在東京文京區彌生鎮出土了不同繩紋的新陶器，史稱彌生陶器，史稱彌生文化。彌生陶造型簡單，圖案不復雜，與繩陶大相徑庭，體現了壹種新的審美趣味。壹般認為彌生陶器是從海外傳入的，即從大陸遷入的人可能帶來了新的彌生文化。雖然新文化克服了原有的繩紋文化，成為日本文化的主流，但外國人最終還是被土著居民同化了，日本民族並沒有因此而中斷。彌生時期的生產力有了很大的提高，因為先進的大陸文明通過朝鮮半島傳到了日本，促使日本進入以稻作農耕經濟為主的農耕社會，石器時代進入鐵器時代。彌生人從事農耕，種植糧食，逐漸形成有勞動力的大村落。父系社會制度取代母系社會制度，階級差異和政治統治逐漸形成。當時，自然崇拜和巫術迷信仍主導著人們的精神生活，尤其是農耕祭祀活動盛行，成為彌生文化的壹大特色。
三、四世紀至六、七世紀，各地修建了以前圓墳為代表的多座高冢古墳，標誌著日本從彌生文化進入古墳文化的時代。建造古墳需要招募大量的勞動力，墳內還埋有鏡子、寶劍、勾玉等精美的手工藝品，象征著逝者生前的強大力量。這與普通人死後簡單的土葬形成了鮮明的對比，說明已經形成了強大的專制中央集權，即以菊池為中心的大和，終於在5世紀初統壹了日本。這壹時期，日本不僅不斷從大陸引進物質文明，也開始從大陸引進精神文明。壹方面，漢族人和移居日本的朝鮮人，即所謂的“歸化人”，開始使用漢字記錄。另壹方面，中國的陰陽和天文學知識傳入日本。到了6世紀，儒家經典和佛教也通過朝鮮半島傳入日本，拉開了日本精神文化的序幕。
從以上可以看出，日本原始文化的萌芽和形成經歷了壹個漫長的歷史時期。從迄今為止對繩紋、彌生、古墳文化的研究中可以看出，日本的原始文化是原始社會的日本人在與外部自然抗爭、尋求和豐富自身物質生活的過程中產生的，而日本這個島國壹旦與外界接觸，外來的先進文化就立即傳入，成為日本文化的生長激素。其次，在精神文化上，巫術和祭祀主導著原始社會日本人的社會生活，這為日本民族宗教——神道教的形成提供了基礎。第三，日本原始文化的形成與日本民族和國家的形成幾乎同步，兩者密切相關，密不可分。即以大和地區為中心，整合各民族，形成“大和民族”；“大和國”最終統壹了“100多個國家”，建立了天皇制國家。