我國古代的冶煉技術相當發達。早在殷商時期，就已經能制造出造型復雜、美觀大方的大型青銅器皿了。春秋中期，我國已經發明了生鐵冶煉技術，到了春秋末年，鐵制的農具和兵器也已得到普遍使用。
在冶煉金屬的過程中，人們不斷總結經驗，逐漸接觸和熟悉了許多礦物的性能，積累了豐富的化學知識。從戰國時代起，就有人把冶金技術運用到煉制藥物方面，夢想能煉出長生不老之藥來，也有人想從礦物中煉出金銀來。那種煉制所謂長生不老藥的煉丹術在古代被稱為“方術”，從事煉丹的煉丹家則被稱為“方士”，後來被稱為“道士”或“丹家”。
雖然這些煉丹家始終未能煉出長生不老之藥來，但是在壹次次冶煉中，他們不斷積累經驗，掌握了不少化學知識。這些煉丹家對我國古代化學的發展，起了不少作用。用現代人的眼光來看，或許把他們稱為古代的化學家更為合適。在這些方士中，較為突出的有李少君、魏伯陽、劉安、葛洪等。正是這些煉丹家的工作，才發現了火藥。
現在我們知道，制造火藥的主要原料為木炭、硫磺和硝石。硫磺在我國古代也被稱作石硫黃、留黃、硫黃等。我們的祖先在公元前後，就已在湖南的郴縣發現了大量的硫磺礦。此後在我國北方、南方也多次發現大型硫磺礦。我國古籍中最早提到“硫黃”的是《淮南子》壹書(公元前150年前後)。
這說明在當時古人對硫磺已有認識。在西漢末年問世的我國第壹本藥物典籍《神農本草經》，把石硫黃歸入“中品藥”的第三種，可見當時硫磺已被廣泛用於入藥。硝石是黑色火藥裏的氧化劑。它的化學成分是硝酸鉀，受熱能產生氧氣，有很強的助燃作用。火藥爆炸力的大小主要根據含硝量的多少來決定。
最遲在公元前後，我們的祖先就已發現了硝，並能掌握利用它。古代人民在實踐中慢慢發現硝石有消除積熱和淤血等醫療作用，便將它入藥。《神農本草經》把硝石列入“上品藥”的第六種。古代的煉丹家十分熟悉硝石的性能，常把硝石作為主要的氧化劑和溶劑。公元500年左右的煉丹家陶弘景就指出硝石有“強燒之，紫青煙起”的現象。
唐朝初年，著名的藥物學家孫思邈也煉過丹藥。在他所寫的《丹經》壹書中，有壹種“伏硫磺法”，記載著類似火藥的方子。由於這種伏硫磺法經常在制作過程中發生燃燒，燒傷煉丹者的手和臉，甚至燒掉煉丹房，因此古人明白了硫磺、硝石和木炭的混合物極易猛烈起火，甚至發生爆炸，制作時必須十分當心。
經過壹次次的爆炸起火，煉丹家們從最初的恐懼中逐漸認識到：硫磺、硝石和木炭，如按壹定比例配制，可制成會爆炸的“火藥”。火藥發明的具體年代已無從查考，但根據資料可以推斷，火藥發明的時間應在唐代以前。由於這種火藥的顏色是黑色的，所以叫作“黑火藥”。