指南針的始祖大約出現在戰國時期。它是用天然磁石制成的。樣子象壹把湯勺，圓底，可以放在平滑的“地盤”上並保持平衡，且可以自由旋轉。當它靜止的時候，勺柄就會指向南方。古人稱它為“司南”，當時的著作《韓非子》中就有：“先王立司南以端朝夕。”“端朝夕”就是正四方、定方位的意思。《鬼谷子》中記載了司南的應用，鄭國人采玉時就帶了司南以確保不迷失方向。
春秋時代，人們已經能夠將硬度5度至7度的軟玉和硬玉琢磨成各種形狀的器具，因此也能將硬度只有5.5度至6.5度的天然磁石制成司南。東漢時的王充在他的著作《論衡》中對司南的形狀和用法做了明確的記錄。司南是用整塊天然磁石經過琢磨制成勺型，勺柄指南極，並使整個勺的重心恰好落到勺底的正中，勺置於光滑的地盤之中，地盤外方內圓，四周刻有幹支四維，合成二十四向。這樣的設計是古人認真觀察了許多自然界有關磁的現象，積累了大量的知識和經驗，經過長期的研究才完成的。司南的出現是人們對磁體指極性認識的實際應用。
但司南也有許多缺陷，天然磁體不易找到，在加工時容易因打擊、受熱而失磁。所以司南的磁性比較弱，而且它與地盤接觸處要非常光滑，否則會因轉動摩擦阻力過大，而難於旋轉，無法達到預期的指南效果。而且司南有壹定的體積和重量，攜帶很不方便，這可能是司南長期未得到廣泛應用的主要原因。
司南由青銅盤和天然磁體制成的磁勺組成，青銅盤上刻有二十四向，置磁勺於盤中心圓面上，靜止時，勺尾指向為南。
指南針的發明
古代民間常用薄鐵葉剪裁成魚形，魚的腹部略下凹，像壹只小船，磁化後浮在水面，就能指南北。當時以此做為壹種遊戲。東晉的崔豹在《古今註》中曾提到這種“指南魚”。
北宋時，曾公亮在《武經總要》載有制作和使用指南魚的的方法：“用薄鐵葉剪裁，長二寸，闊五分，首尾銳如魚型，置炭火中燒之，侯通赤，以鐵鈐鈐魚首出火，以尾正對子位，蘸水盆中，沒尾數分則止，以密器收之。用時，置水碗於無風處平放，魚在水面，令浮，其首常向午也。”這是壹種人工磁化的方法，它利用地球磁場使鐵片磁化。即把燒紅的鐵片放置在子午線的方向上。燒紅的鐵片內部分子處於比較活動的狀態，使鐵分子順著地球磁場方向排列，達到磁化的目的。蘸入水中，可把這種排列較快地固定下來，而魚尾略向下傾斜可增大磁化程度。人工磁化方法的發明，對指南針的應用和發展起了巨大的作用。在磁學和地磁學的發展史上也是壹件大事。北宋的沈括在《夢溪筆談》中提到另壹種人工磁化的方法：“方家以磁石摩針鋒，則能指南。”按沈括的說法，當時的技術人員用磁石去摩擦縫衣針，就能使針帶上磁性。從現在的觀點來看，這是壹種利用天然磁石的磁場作用，使鋼針內部磁疇的排列趨於某壹方向，從而使鋼針顯示出磁性的方法。這種方法比地磁法簡單，而且磁化效果比地磁法好，摩擦法的發明不但世界最早，而且為有實用價值的磁指向器的出現，創造了條件。
沈括還在《夢溪筆談》的補筆談中談到了摩擦法磁化時產生的各種現象：“以磁石摩針鋒，則銳處常指南，亦有指北者，恐石性亦不……，南北相反，理應有異，未深考耳。”這是說，用磁石去摩擦縫衣針後，針鋒有時指南，也有時指北。從現在的觀點來看，磁石都有N和S兩個極，磁化時縫衣針針鋒的方位不同，則磁化後的指向也就不同。但沈括並不知道這個道理，他真實的記錄了這個現象並坦白承認自己沒有做深入思考。以期望後人能進壹步探討。
關於磁針的裝置方法，沈括介紹了四種方法：
1.水浮法——將磁針上穿幾根燈心草浮在水面，就可以指示方向。
2.碗唇旋定法——將磁針擱在碗口邊緣，磁針可以旋轉，指示方向。
3.指甲旋定法——把磁針擱在手指甲上面由於指甲面光滑，磁針可以旋轉自如，指示方向。
4.縷懸法——在磁針中部塗壹些蠟，粘壹根蠶絲，掛在沒有風的地方，就可以指示方向了。
沈括還對四種方法做了比較，他指出，水浮法的最大缺點，水面容易晃動影響測量結果。碗唇旋定法和指甲旋定法，由於摩擦力小，轉動很靈活，但容易掉落。沈括比較推重的是縷懸法，他認為這是比較理想而又切實可行的方法。事實上沈括指出的四種方法已經歸納了迄今為止指南針裝置的兩大體系——水針和旱針。
《夢溪筆談》是沈括(1031—1095年)所著的有關我國古代科學技術的著作，書中談到磁學和指南針的壹些問題。
南宋陳元靚在《事林廣記》中介紹了另壹類指南魚和指南龜的制作方法。這種指南魚與《武經總要》壹書記載的不壹樣，是用木頭刻成魚形，有手指那麽大，木魚腹中置入壹塊天然磁鐵，磁鐵的S極指向魚頭，用蠟封好後，從魚口插入壹根針，就成為指南魚。將其浮於水面，魚頭指南，這也是水針的壹類。
指南龜是當時流行的壹種新裝置，將壹塊天然磁石放置在木刻龜的腹內，在木龜腹下方挖壹光滑的小孔，對準並放置在直立於木板上的頂端尖滑的竹釘上，這樣木龜就被放置在壹個固定的、可以自由旋轉的支點上了。由於支點處摩擦力很小，木龜可以自由轉動指南。當時它並沒有用於航海指向，而用於幻術。但是這就是後來出現的旱羅盤的先聲。
指南龜發明年代不晚於1325年。木塊刻成龜型，龜腹部中心嵌以磁體，木龜安放在尖狀立拄上，靜止時首尾分指南北。
羅盤定位
要確定方向除了指南針之外，還需要有方位盤相配合。最初使用指南針時，可能沒有固定的方位盤，隨著測方位的需要，出現了磁針和方位盤壹體的羅盤。羅盤有堪輿用的羅經盤和水羅盤、旱羅盤。
方位盤仍是二十四向，但是盤式已經由方形演變成圓形。這樣壹來只要看壹看磁針在方位盤上的位置，就能斷定出方位來。南宋時，曾三異在《因話錄》中記載了有關這方面的文獻：“地螺或有子午正針，或用子午丙壬間縫針。”這是有關羅經盤最早的文獻記載。文獻中所說的“地螺”，就是地羅，也就是羅經盤。文獻中已經把磁偏角的知識應用到羅盤上。這種羅盤不僅有子午針（確定地磁場南北極方向的磁針），還有子午丙壬間縫針（用日影確定的地理南北極方向）這兩個方向之間的夾角，就是磁偏角。
盤面周圍刻二十四方位，內中盛水，磁針橫穿燈草，浮於水面。
現在人們已經知道，地球的兩個磁極和地理的南北極只是接近，並不重合。磁針指向的是地球磁極而不是地理的南北極，這樣磁針指的就不是正南、正北方向而略有偏差，這個角度就叫磁偏角。又因為地球近似球形，所以磁針指向磁極時必向下傾斜，和水平方向有壹個夾角，這個夾角稱為磁傾角。不同地點的磁偏角和磁傾角都不相同。成書於北宋的《武經總要》在談到用地磁法制造指南針時，就註意利用了磁傾角。沈括在《夢溪筆談》談到指南針不全指南，常微偏東。指出了磁偏角的存在。磁偏角和磁傾角的發現使指南針的指向更加準確。
磁性質的應用
指南針壹經發明很快就被應用到軍事、生產、日常生活、地形測量等方面，特別是航海上。指南針在航海上的應用有壹個逐漸發展過程。成書年代略晚於《夢溪筆談》的《萍洲可談》中記有：“舟師識地理，夜則觀星，晝則觀日，陰晦則觀指南針。”這是世界航海史上最早使用指南針的記載。文中指出，當時只在日月星辰見不到的時候才使用指南針，可見指南針剛開始使用時，使用還不熟練。二十幾年後，許兢的《宣和奉使高麗圖經》也有類似的記載：“惟視星鬥前邁，若晦冥則用指南浮針，以揆南北。”到了元代，指南針壹躍而成海上指航的最重要的儀器了。不論晝夜晴陰都用指南針導航了。而且還編制出使用羅盤導航，在不同航行地點指南針針位的連線圖，叫做“針路”。船行到某處，采用何針位方向，壹路航線都壹壹標識明白，作為航行的依據。
指南針的發明是古代先民對磁現象的觀察和研究的結果。古代先民對磁現象的觀察和研究的過程中，進壹步了解了磁的性質，並試圖更多地應用這些性質。傳說秦始皇修建阿房宮時，有壹宮門是用磁鐵制造的。如果刺客帶劍而過，立刻會被吸住，被衛兵當場捕獲。這樣的故事還很多，《晉書.馬隆傳》記載馬隆率兵西進甘、陜壹帶，在敵人必經的狹窄道路兩旁，堆放磁石。穿著鐵甲的敵兵路過時，被牢牢吸住，不能動彈了。馬隆的士兵穿犀甲，磁石對他們沒有什麽作用，可自由行動。敵人以為神兵，不戰而退。東漢的《異物誌》記載了在南海諸島周圍有壹些暗礁淺灘含有磁石，磁石經常把“以鐵葉錮之”的船吸住，使其難以脫身。
魏晉南北朝時，我國先民對磁石的性質已有了很多認識。就連當時的詩人曹植在矯誌詩中也用了“磁石引鐵，於金不連。”的句子。可見他也了解磁石的性質。南北朝梁代的陶弘景在《名醫別錄》中提出了磁力測量的方法，他指出：優良磁石出產在南方，磁性很強，能吸引三、四根鐵針，使幾根針首尾相連掛在磁石上。磁性更強的磁石，能吸引十多根鐵針，甚至能吸住壹、二斤刀器。陶弘景不僅提出了磁性有強弱之分，而且指出了測量方法。這可能是世界上有關磁力測量的最早記載。
我國先民對磁石的性質的研究和認識是指南針發明和發展的基礎