胡樸安的祖上世代為儒，祖父復初公著有《養拙齋詩存》，父親胡愛亭著有《守拙齋詩存》及《文存》、《筆耕錄》。樸安兄弟三人，兄伯春，庠生，著有《伯子書稿》。弟寄塵（懷琛）早年加入南社，壹生詩文著述甚富。胡樸安的家鄉安徽涇縣東鄉丹溪，是萬山叢中壹平地，南有香澗水，東有橫亙百裏的黃兌山。由於山多地少，村中人多外出經商。胡樸安的父親愛亭公在清同治年間曾在上海大東門經營絲線業，後棄商為儒，在南昌處館授徒。由於家中人口多，而家境貧寒，胡樸安先生每日必須從事種菜、舂米、擔水、砍柴等繁重體力勞動，以減輕父母之生活重擔。
胡樸安青年時孜孜好學，勞動之余，努力讀書，涉獵廣博。他曾說：“我於經僅讀《詩經》、《書經》、《左傳》三種；於史僅讀《史記》壹種；於子僅讀《荀子》、《莊子》二種；於文喜讀韓退之、歐陽修；於詩喜讀李太白、白居易；於算學喜讀李善蘭、華衡芳之書。又喜讀徐光啟之《農政全書》；戚繼光之《紀效新書》。有時也喜讀段玉裁之《說文解字註》，朱子之《近思錄》”。（摘自《六十年前的我》） 胡樸安七次應試，六次被黜，最後壹次院試，首場例考雜學，胡樸安報考算術，入場得題“算論”壹篇，因恨主試人之昏，敷衍成章，交卷出場。正場考試“經義策論”，又草草成篇，納卷出場，竟然獲取。1904年離鄉去當塗黃池鎮，在同鄉翟晏如家為家塾教師，常往蕪湖購報刊新書，如《民約論》、《自由原理》、《天演論》，以及鼓吹革命文章，讀後頗受啟迪，思想得到進步，自誓不再應試，並與翟晏如***商“領墾”計劃，以此為名，以墾為備，積糧招兵，蓄積力量，響應革命。1905年，日俄戰爭將近結束，中國同盟會在日本成立，胡樸安聞悉“氣為之壯”。適逢蕪湖萬春圩放墾，胡樸安便與人籌集資金招集農民前去墾荒。胡樸安主持墾事，翟晏如負責籌款。胡樸安親往上海購回耕田機2 臺，自學拆卸安裝方法，親手扶犁耕作。二年之中，無論盛夏酷暑或寒冬臘月，與墾荒的農民同吃睡在壹起，赤足上田埂，正是“扶犁隨老農，耕土問深淺”，壹切艱難困苦的事他都親自去做，他後來在回憶詩中寫到的“素誌懷農桑，少年竟實現”這二句，就是他年輕時，以清初顧炎武平生開墾利國利民為榜樣，腳踏實地刻苦磨礪自己的最好寫照。後由於洪水泛濫，雖墾田萬畝，終未成功。躬耕之余，研讀政治法律、革命書籍及唐宋詩文，於蕪湖結識安徽公學陳獨秀、李光、劉師培、汪孟鄒、江丹候、洪澤丞等進步知識分子，過從甚密。
1906年，他來到上海，原想參加反清活動，因“無以立足”，便至同鄉朱姓裕源紗廠任會計。因胞弟寄塵之關系得識朱少屏，遂加入國學保存會。國學保存會的會員當時僅25人，其中有章太炎、諸貞壯、鄧秋梅、馬敘倫、劉申叔、高天梅、朱少屏、陳佩忍、柳亞子等人。並在國學保存會掌管藏書，每隔壹日去國學保存會藏書樓看書，並加入國學會。由此胡樸安便進入《國粹學報》擔任編輯工作。《國粹學報》在當時是壹份宣傳反清思想的雜誌。《國粹學報》當時所編之書，皆是宣揚民族精神的宋明遺民之著作。如《伯牙琴》、《心史》、《留都見聞錄》、《甲申傳信錄》、《張蒼水集》等。胡樸安在《國粹學報》時，也曾編輯過《吾炙集小傳》壹種，並為之撰寫跋文。
1909年，南社在蘇州虎丘成立。第二年，胡氏昆仲相繼人社，南社是由陳去病、高天梅、柳亞子發起組織的中國近現代革命文學團體，南社有壹千多社員，在當時以充滿激情的詩文，鼓吹推翻腐朽的滿清王朝，與中國同盟會機關報《民報》所發出的以反清為宗旨的言論相呼應。胡樸安還與詩人柳亞子、弘壹法師等創辦“文美會”。不久胡樸安又參加了孫中山創辦的中國同盟會，追隨孫中山先生從事辛亥革命，但他主要是通過辦報紙寫社論，著力點在革命輿論的宣傳方面。
胡樸安《國粹學報》編輯，同時為《民立報》（於右任創辦）主要撰稿人。辛亥革命前，受聘《太平洋報》專撰社論，同時為《中華民報》撰寫社論並兼評議員。後去《民國新聞》、《民權報》主持筆政，在上海新聞界頗有影響。胡樸安進入《民立報》，常搜集明遺民之事跡與言論作為文章內容，寫成筆記小品，見諸報端。其中最著者為他所編的《發史》壹書，揭露清軍入關後，強迫漢人按滿人風俗剃發蓄辮，遭到漢人的反抗，凡清初不肯剃發而被殺，或剃度為僧者，悉為編人。又編《漢人不服滿人表》壹種，二者皆收入胡寄塵所編之《清代野史》壹書中。他還創作小說《沌澤國》，描寫清政府之腐敗。當時同在《民立報》的有：宋教仁、景耀月、王印川、範鴻仙、談善吾、錢病鶴等人。胡樸安與宋教仁，早在國學保存會藏書樓同時看書時便熟識了，宋教仁有壹次對胡樸安說：“中國的學問極好，惜散見各書中，未加整理耳，吾子多讀中國之書，盍為此盛業乎？”此言對胡後來從事中國傳統文化之研究的啟發很大。1912年，胡樸安進葉楚倫任總編輯的《太平洋報》。當時在《太平洋報》的編輯與記者，大多是南社社友，所寫的文章慷慨激昂極有生氣，很能打動讀者。與胡樸安同寫社論的還有余天遂、姚鹓雛，而朱少屏則任該報經理，柳亞子與胡寄塵編文藝，李叔同編圖畫。之後，胡樸安又在鄧孟碩任總編輯的《中華民報》任評論員，並先後在《民權報》、《民國日報》、《民國新聞》、《天鐸報》、《新聞報》等報紙任過職。無論在宋教仁被刺、二次革命、以及袁世凱復辟稱帝時期，胡樸安通過辦報寫文章，揭露袁世凱對歷史之倒退，捍衛孫中山所創建的“民國”與“***和”。
胡樸安因為與報界有著廣泛的聯系，因而與南社社友交往機會增多，據他本人回憶，“南社的社友壹千多人，熟悉的約占十分之四。”其中如弘壹法師李叔同，在《太平洋報》***事時，朝夕與***，情誼日篤，後李叔同出家並寄居杭州玉泉，胡樸安每到杭州，必前去看望他，深敬這位高僧持律之精嚴，道行之高尚，音樂、書畫藝術之精湛。他曾寫了《靈隱寺尋弘壹和尚》壹詩，其中有這樣幾句：“弘壹精佛理，禪房欣良規。誰知菩提身，本是文章伯。靜中忽然悟，逃世入幽僻。為我說禪宗，天花落幾席。坐久松風寒，樓外山沈碧。”
1912年秋，他應黃興之邀請，到位於吳淞的中國公學教文字學課，並在專為紀念秋瑾烈士而辦的競雄女學任教，同時在該校任教的還有陳佩忍、葉楚傖、陳匪石、黃賓虹等。
1913年，宋教仁被袁世凱派來的兇手槍殺於滬寧車站，胡樸安其時正在《中華民報》任記者兼編輯，目睹這壹震驚中外歷史事件的前後經過，並以記者的身份多次實地采訪，他以“樸庵”筆名在《中華民報》上發表數十篇文章，有力地揭露了袁世凱妄圖實行獨裁的險惡用心與卑劣會倆。後袁世凱籌帝制愈力，樸安先生曾作《詠史》詩五首諷刺揭露袁的醜行，其壹曰：“師曠鼓鳴琴，驟雨聲震屋。白雲西北來，大風吹折木。天地何蒼黃，吉兇不可蔔。古樂有神靈，未許俗人瀆 。平公亦何愚，無德妄奏曲。壹曲奏未終，四野人民哭。”
1914年胡樸安去福建任巡閱使署秘書，主辦教育，不久告假返回中國公學繼續任教。1916年他去北京交通部任秘書職。1919年他與汪子實上海發起組織南社之分支“鷗社”，每月雅集二次，加入的均是南社社友，如王蓴農、胡寄塵、傅屯艮、潘蘭史、徐仲可、陶小柳、汪蘭臯、王大覺、孫小舫等。樸安曾為鷗社賦詩道：“蜩螳莫問今何世，大雅沈淪尚有詩。寂莫荒江成小集，蒼茫塵海幾相知。水雲無際鷗飄泊，杯酒能生光陸離。千古興亡空雪涕，年來贏得鬢如絲。” 1922年，胡樸安曾應孫中山之請，準備去廣州，後因陳烱明叛亂而告吹。1926年他出任《民國日報》社社長。1930年又應葉楚倫之邀，出任江蘇省民政廳長之職。由於他自認缺乏才能，供職二年便自呈辭職書，辭去職務返回上海，繼續任教於大夏、復旦、東吳、暨南、上海、持誌等大學，重理筆墨生涯，還其書生本色。
1937年抗戰爆發後，胡樸安受命任上海《正論社》社長之職。上海淪陷後，環境日益惡劣。他杜門著述，嚴正不阿。1940年4月，他患腦溢血半身不遂病廢家居，撰《病廢閉門記》，刊諸《大眾雜誌》，又撰回憶錄《六十年以前的我》，對於自己數十年來所走過的學術研究道路與學術思想多有談及。例如，他談到年輕時，常以顧亭林、黃梨洲、王船山、顏習齋四人學說作為自己讀書做人的標準。後又受戴東原、段玉裁、王念孫父子等清代樸學大師學術思想的影響，逐步走上東漢樸學壹路。日後他在整理舊學術方面，則從戴東原、段玉裁、王氏父子治學方法入手，以文字、訓詁、音韻為考據的工具，在治經治史方面作出許多的貢獻。但他亟不滿足於做個考據家，他對於清代的“樸學”，也有獨立的見解。他認為清代樸學已到了絕潢斷港無路可走的地步，必須要開辟新的學術境界。為此，他作了大量控索。在接觸了達爾文、赫胥黎、康德、黑格爾、叔本華、柏格森、羅素等許多近代西方進步的哲人思想著作後，他決心在經史研究方面不落漢人與清人之窠臼，而應另辟蹊徑，獨樹壹幟。他曾經考慮編撰壹部中國文化史，取材於甲骨文、金文、大篆等歷代文字；取材於《爾雅》、《說文》以下每個時代的各種辭書、字書以及辭海等，由文字考見上古時代的事物、言語、習俗之變化，以求得各時代文化遞嬗之歷史軌跡，由此而成為壹部可信之中國文化史。
胡樸安從年輕時便愛好積書，每去舊書鋪大有車載而歸之概。有壹次，就用大洋壹百二三十元買進二千多本文字學書籍。對於古籍圖書，他曾說：“我謂壹切古書，皆是材料，當立足於現代學術之觀點，取古書之材料，辨其真偽而組織之，以成壹有系統之學術。”他自上世紀三十年代著成《中國文字學史》、《中國訓詁學史》二書之後，四十年代初在腦中風病廢家居的數年中，又撰成《周易古史觀》、《莊子章以淺說》、《中庸新解》、《通書新解》等專著，特別是像《從文字學上考見古代人之聲韻與言語》、《從文字學上考見古代婦女》、《從文字學上考見古代辨色的本能與染色技術》、《從詩經上考見古代之家庭》等文章。尤能見其通過漢字形體聲韻之分析，以考證古代科學技術、社會家庭組織、人的動作、心理、本能發展狀況之學術特色。
抗戰勝利後，《民國日報》在滬復刊，他受任館長，並繼任上海通誌館館長之職，後任通誌館改組的文獻委員會主任，至逝世為止。