據說，指南車是黃帝最早發明的。《太平禦覽》卷十五引《誌林》雲：“黃帝與蚩尤戰於涿鹿之野。蚩尤作大霧彌三日，軍人皆惑。黃帝乃令風後法鬥機作指南車，以別四方，遂擒蚩尤。”在晉崔豹的《古今註》卷上，也有相似的記載。看來，指南車的發明是與軍事上的實際需要息息相關的，並在當時戰爭中起到了決定勝負的巨大作用。遺憾的是，關於指南車的構造卻沒有留下具體的說明。
黃帝之後，指南車的制法失傳了。到了西周初年，周公姬旦又重新發明了指南車，其動機是越裳氏（古代南海國名）使者來朝，但迷失了歸去的路途，所以造指南車送使者歸國，而周朝的送行使者也陪同越裳氏來使同行；周朝使者返國時，亦靠指南車指示回來的路途。晉崔豹《古今註》對此事有詳細的記載，說明指南車是為中外友好交往而造。但周公所造指南車的構造如何，亦未留下任何記載。
自周公造指南車之後，其制法再壹次失傳，秦及西漢未見記載。從後漢起，直至北宋，指南車多次失傳，又多次被人們重新發明、制造，這在中國古代科技史中實為罕見。現據《宋書?6?1禮誌五》、《宋史?6?1輿服誌》及其它古籍中有關指南車的記載，略述從後漢至宋代指南車的多次發明史。
後漢時，指南車的制法已失傳。後漢張衡博學多才，再次發明了指南車。至漢末喪亂，其制法遂失傳。曹魏時，博士馬鈞制造成指南車。晉末戰亂，指南車的制法再壹次失傳。與此同時，北方的後趙太祖石虎命解飛制成指南車。崔鴻的《後趙錄》說：“尚方令解飛，機巧若神，妙思奇發，造指南車就，賜爵關內侯。”後秦高祖姚興又命令狐生造成指南車。晉安帝司馬德宗義熙十三年（417），劉裕（後為宋武帝）平定長安，才得到指南車。它的形制如記裏鼓車，在車上裝有木人，木人舉手指南。皇帝大駕鹵簿（皇帝出行時的儀仗隊）中最前面的就是指南車。此車為北方所造，不夠精密，雖然說是指南，但卻常常偏離方向，車輛轉向時，尚需人用手加以糾正。宋順帝劉準升明末年，命祖沖之另造指南車，由撫軍丹陽尹王僧虔和禦史中丞劉休加以試驗，發現車的制造甚精，任憑車子反復多次改變方向，車上木人的手仍永遠指向南方。北魏太武帝拓跋燾命郭善明造指南車，經年不成，扶風人馬嶽又造，將完成時，被郭善明用毒酒害死。於是指南車的造法又壹次失傳。到了唐憲宗元和年間，典作官金公立以其所制的指南車進獻。憲宗於麟德殿試驗其功能，用來充為出行時儀仗隊的壹部分。唐人張彥振著有《指南車賦》，以文學手法闡述了指南車之奧妙。至晚唐五代，指南車再次失傳。
宋代仁宗天聖五年（1028），工部郎中燕肅發明指南車進上，《宋史?6?1輿服壹》載有他所制指南車之形制：
指南車，壹曰司南車。赤質，兩箱畫青龍、白虎，四面畫花鳥，重臺，勾闌，鏤拱，四角垂香囊。上有仙人，車雖常轉而手常南指。壹轅，鳳首，駕四馬。駕士舊十八人。
從車身的裝飾上看，與《晉書?6?1輿服誌》所記載的指南車的裝飾大相徑庭，但其所起的指南作用則相同。到了宋徽宗大觀元年（1107），內侍省吳德仁又獻指南車。
綜上所述，古代的指南車屢次失傳，又屢次重新加以發明，中國人的聰明才智於此可見壹斑，這種情況在世界科技史上可以說是絕無僅有的。
為什麽指南車多次發明又多次失傳呢？這是因為宋以前發明指南車的發明家都只是制出了指南車實物，卻不曾留下其構造的文字記載。壹遇戰亂，指南車實物被毀，其制法也就隨之而失傳，所以後代人需重新加以發明。直至宋代，指南車的發明者燕肅、吳德仁分別留下了指南車內部構造的詳細說明，這才結束了指南車的發明史，使後人得以按圖索驥，毫不費力地進行仿制了。
從《宋史?6?1輿服誌》中的記載可知，指南車是利用了機械傳動的方法，使齒輪系或聯通或斷開。這種自動離合的設計可以控制指南車上的木人的手臂方向。其構造大致是這樣的：指南車中有壹大型齒輪，上部的輪軸向上伸出，軸上立壹個木人。大齒輪與軸上的木人旋轉角度完全壹致。車向正南行進時，傳動齒輪與大齒輪是分開的，所以大齒輪上面的木人不受車輪轉動的影響，木人的手臂指向南方。當車向左轉動時，車轅的前部隨之向左移動，而後部則向右移動，從而使右側的傳動齒輪下降，與大齒輪接觸，這樣右側車輪的轉動便能帶動大齒輪向右轉動，從而正好抵銷了車子向左轉彎的影響，使得木人手臂永遠指向南方。當車向右轉動時，原理與向左轉時壹樣，可以類推。
指南車的構造之巧妙，發明年代之久遠，屢次發明又屢次失傳的歷史，使我們不得不佩服先民們的才智與毅力。