最早的魚是無顎魚。顧名思義，它們沒有上下顎，只有壹個漏鬥狀的嘴位於身體的前端。這種嘴不能主動吃東西，只能靠電流把微小的生物帶進嘴裏。此外，它們沒有腹鰭，但它們有壹層膜狀外骨骼包裹著它們的身體。因此，無顎魚也被稱為甲魚。因為這種外骨骼的存在，在學者中引發了壹些爭議:軟骨和硬骨哪個先來？脊椎動物胚胎發生過程中，總是先出現軟骨，再由軟骨形成硬骨。壹般認為個體發育反映了系統發育。據此，在生物進化過程中，軟骨應該排在第壹位，硬骨排在最後，但最早的脊椎動物卻先出現了硬骨。這怎麽解釋？有人說軟骨是第壹位的，但是軟骨是不能作為化石保存下來的。最後，沒有結論。
無頜魚類包括兩個截然不同的類別:頭足類和長須鯨類，每壹類都有自己的分支，不同類型的各種代表，曾經繁盛壹時。但是好景不長。到泥盆紀中期(約3.5億年前)，大部分已經滅絕。由於活著的七鰓鰻和盲鰻的某些特征與頭足類動物壹致，學者們推測前者可能是後者的活著的代表。據此，頭足類動物應該不會最終滅絕。但是，從泥盆紀到現代的3億多年間，沒有發現頭足類、七鰓鰻和盲鰻之間的中間聯系(圖14)。這些寄生生活的現代無頜魚類是如何從它們的祖先進化而來的，這仍然是壹個未解決的問題。珠母貝沒有活著的代表，被認為是壹個滅絕的類別。但由於異特龍的某些特征與後來的頜魚相似，有人說異特龍可能是頜魚的遠祖。是否如此，還需要更多的論證。
最早的顎魚是盾魚，它不僅有上下顎，還有側鰭。這樣才有可能主動餵食。盾魚通常分為甲類和乙類，甲類和乙類都有鎧甲覆蓋，在泥盆紀晚期最為繁盛。前者可以尾魚為代表，後者可以海峽鱗魚為代表。有人認為盾魚可能與現代鯊魚有親緣關系，但也有人認為它可能與硬骨魚更近。
瓣鰓類，也稱為軟骨魚，包括鯊魚和頭足類。鯊魚通常被認為是原始魚類，因為它們有軟骨骨骼。軟骨在前，硬骨在後。但也有人認為鯊魚的軟骨是次要的，是硬骨“退化”的，硬骨在先，軟骨在後。甲魚和盾魚沒有硬骨頭嗎？最早的硬骨頭確實很原始。
最早的軟骨魚出現在泥盆紀早期(3.8億年前)，而裂鯊通常被認為是最原始的代表之壹，可能是所有鯊魚的祖先。它是壹種長近1米的鯊魚，具有典型的鯊魚體型——紡錘形，眼睛很大，靠近吻部。兩個背鰭，第壹個背鰭前面有壹個粗壯的背刺。胸鰭特別大，腹鰭很小。尾鰭上下葉外形對稱，但內部結構上上棘壹直延伸到尾鰭上葉末端，所以還是壹條歪尾。側鰭是壹種基寬尖的原始鰭。牙齒呈“筆桿”狀，尖端中央高，兩側低(圖15)。從類似於軟骨魚的中央脊柱的裂鯊開始，後期進化出了各種鯊魚，包括典型的鯊魚和身體扁平的鰩魚。這些鯊魚從中生代開始就生活在海洋中，並沒有特別繁盛，但也沒有被消滅。
骨魚是最進步的魚類，也是當今世界水域的“主宰”。壹般認為硬骨魚是由帶刺的魚進化而來的。棘龍是壹種早期的有頜魚類，出現在早誌留世(4億年前)，壹直持續到二疊紀(2.5億年前)。這是壹種小魚，曾被認為與盾魚和軟骨魚有關。近年來，通過對新材料的研究，確定其與硬骨魚類有關。
骨頭分為兩個分支，壹個叫輻鰭魚，壹個叫肉鰭魚。前者最早出現在距今約3.8億年前的泥盆紀中期，經過軟骨硬皮病(部分軟骨、斜角肌、明顯彎曲的尾巴)、全骨魚(部分軟骨、斜角肌、略彎曲的尾巴)和真骨魚(硬骨、圓鱗、直尾)三個進化階段進化成現代魚類。肉食性魚類有刺魚和肺魚，又分為刺魚和扇鰭魚。拉蒂邁魚是唯壹活著的空刺魚的代表，而凡鰭魚都是化石物種。後者曾被認為是陸生四足動物的祖先，但近年來被中國學者否定。肺魚在泥盆紀(3.6億年前)開始出現，直到現在有澳洲肺魚、非洲肺魚、南美肺魚為代表。顧名思義，肺魚能用肺呼吸，這是陸生脊椎動物的基本要求。再加上其他特征，肺魚壹度被認為是陸生四足動物的祖先。後來，這種“祖先”的地位被壹種有內鼻孔的扇鰭魚所取代。20世紀80年代，隨著對扇鰭魚內鼻孔的否定，扇鰭魚的祖先論發生了動搖。於是有關學者回到肺魚尋找陸生四足動物的祖先。