沒有魚類直系祖先的化石證據，所以魚類的起源只能追溯到生活在奧陶紀以前的原始頭足類動物。他們的後代分化成無顎盔甲和有顎魚。魚類化石最早發現於誌留紀末，主要包括Placodermi和Acan-thodii。盾形魚是壹個多樣化的群體，代表了下顎發育的早期階段。
體外有盾殼，典型的下頜骨和與顱骨愈合的上顎，壹對鼻孔，側鰭和彎曲的尾巴，骨架為軟骨。它在誌留紀和泥盆紀沿著與早期鯊魚和硬骨魚類不同的進化路線發展，隨著泥盆紀的結束退出歷史舞臺。
棘龍是另壹種古老的魚類，壹般體型較小，呈紡錘形，尾部彎曲，側鰭發達。頭上沒有厚重的盾牌，取而代之的是覆蓋在體表的菱形骨鱗。在壹些早期物種中，胸鰭和腹鰭之間仍有壹排小鰭，被認為是連續鰭褶皺斷裂後的殘余，是側鰭產生的過渡形態。
棘魚龍被認為是硬骨魚的祖先，而盾魚是軟骨魚的近親。現代存在的軟骨魚類和硬骨魚類，早在泥盆紀就已經走上了各自的發展道路，親緣關系較遠。