學校創建於清光緒三十壹年（1905）。它的前身是壹所私立培本女子學校，由徐氏家族在該市建造。它最初位於當地壹名私人醫生的家中。第壹任校長是創始人許（1873-1943）。它不僅是昆山近代最早的“新學”之壹，也是昆山最早開啟女子讀書風氣的學校。
私立培本學校成立時，招收了壹個20多名學生的班級。當時，女性上學的時間越來越晚，而且對學生沒有年齡限制，有些學生已經快20歲了。在學生中，有兩個姐姐，傅長泉。畢業後，她們在私宅裏辦起了“私立愛華女校”，致力於發展女子教育事業。她們後來成為蘇州和上海倡導婦女解放的著名活動家。可見，培本女校的創辦對於打破男尊女卑的封建禮教，提高婦女權利具有很大的社會影響。
1912私立培本女校收歸國有，更名為昆山立培本小學，校址遷至清代著名的玉山書院。（即現在的玉山書院，是著名學者朱柏廬先生講學的地方，還有林祠。）實行新的六年學制（桂茂學制），六個班，六年制單軌，在校生65438人。
1920學校附小（幼兒園），壹個班20個孩子，是昆山第壹所幼兒園學校。
1937抗日戰爭爆發，學校建築主體毀於戰火，被迫停課壹段時間，第二年恢復上課。1945抗日戰爭勝利後，學校更名為昆山縣第二中央民族學校。被毀的校舍逐漸恢復成三層平房，共有12間大小不壹的教室。然而，由於缺乏資金和草率的建設，他們在解放時已經破爛不堪。
1949年昆山解放，人民政府接管學校時，學校有12個班，學生380多人，教職工18人。1956年，市區更名為玉山鎮，校名改為昆山縣玉山鎮第二中心小學，沿用至今。在此期間，他曾經管理過玉山鎮的吉傑小學、西塘小學、西河小學和北山灣幼兒園。1993 2月，鑒於培本小學在當地群眾中影響較大，昆山市教育局決定恢復昆山培本小學校名，並與玉山鎮第二中心小學校名在同壹地點使用。
20世紀50年代末至70年代末，玉山鎮第二中心小學經歷了各種政治運動，特別是十年“文革”動亂。由於歷史悠久，老教師相對較多，被造反派誣為封建殘余堡壘，破除“四舊”、批判封建主義和資產階級權威的鬥爭異常激烈，導致學校停課、大批教師下放、學校設施遭到嚴重破壞。
黨的十壹屆三中全會後，在縣委、縣文教局的領導下，學校迅速恢復了生機，召回了大部分教師，重新學習了黨的教育方針，整頓了教學秩序，在“壹個中心、兩個基本點”的總路線指導下，堅持教育改革，不斷進步，取得了良好的成績。20世紀90年代以來，學校先後被評為“全國傳統體育先進學校”“全國群眾體育先進學校”“全國體育衛生先進單位”“江蘇省實施素質教育先進學校”“蘇州市文明單位”“蘇州市德育工作先進學校”。
該校已辦學近百年，成千上萬的畢業生和學生遍布世界各地。1995是建校九十周年。校慶消息見報後，包括港澳臺以及美國、澳大利亞、日本在內的全國各地校友紛紛來信。他們中的大多數人已經離開家鄉五六十年了。其中，許多知名教授和學者參與了原子彈的制造，包括全國著名的醫生、物理學家、數學家、哲學家和實業家，年齡最大的有八位。在信中，他們都談到了童年母校的啟蒙教育，這是“人生的基本起點”，並感謝他們“生我養我的故土之恩”。他們中的壹些人還捐贈了金錢、材料和作品作為母校90歲生日的禮物。成千上萬的校友懷念培本小學，這也激勵著所有現在正在工作的員工。他們決心繼往開來，讓這所百年老校煥發新生，讓學校成為“五育並舉”的學校。