副省級市的行政級別正式施行於1994年2月25日，前身為計劃單列市，其黨政機關主要領導幹部行政級別為省部級副職。事實證明，將部分城市定為副省級市，不僅有利於加快城市的經濟與社會發展，而且有利於更好的發揮中心城市的輻射作用。
副省級市的市委書記、市人大常委會主任、市長、市政協主席職務列入《中***中央管理的幹部職務名稱表》，其職務任免由省委報中***中央審批。
中國現有15座副省級市:廣州、武漢、哈爾濱、沈陽、成都、南京、西安、長春、濟南、杭州、大連、青島、深圳、廈門、寧波。其中深圳、大連、青島、寧波、廈門是計劃單列市，其它均為省會城市。
歷史沿革：
1985年7月22日，國務院工資制度改革小組根據中央財經領導小組會議紀要精神，發出了《關於廣州、武漢、沈陽等8市國家機關行政人員職務工資標準問題的通知》(國工改〔1985〕012號)，並規定此工資標準僅適用於以上8個市，其他省轄市不得援例。 盡管沒有正式承認8個城市的政府機構升格，但由於工資起點標準的提高，同時又在工資表中列舉了局下設處，處下設科長職務，實際上將其委、辦、局壹級工作部門的機構級別提高了壹級，同時又增加了壹個新的層次──位於局與科之間的處級機構。其它幾個享受省級經濟管理權限的計劃單列市，如大連、青島、寧波、廈門、深圳等，也先後決定將市直各部門的機構級別提高並增設壹個機構層次。
在後來的使用中，"副省級城市"這壹名稱也被習慣性的使用，包括很多官方場合，但就中編辦最初的文件來說，"副省級市"當為規範的名稱。對省轄大城市的計劃單列，在20世紀50年代中、60年代初曾實行過兩次，實行不久就取消了。
1993年7月2日，中***中央發出通知，印發《關於黨政機構改革的方案》和《關於黨政機構改革方案的實施意見》。《方案》規定，除深圳、重慶、大連、青島、寧波、廈門這6個非省會城市仍保留計劃單列市外，其余省會城市不再實行計劃單列。
1994年2月25日，副省級市行政級別正式施行，其前身為計劃單列市，受省級行政區管轄。副省級市的市長與副省長行政級別相同。根據1994年2月25日中央機構編制委員會文件(中編〔1994〕1號)，原14個計劃單列市(重慶、廣州、武漢、哈爾濱、沈陽、成都、南京、西安、長春、大連、青島、深圳、廈門、寧波)和濟南、杭州***16個市的政府機關行政級別定為副省級。
1994年5月，經中央機構編制委員會第6次會議通過，並經中***中央、國務院領導人同意，決定將原來的14個計劃單列市和濟南、杭州2市正式確定為副省級市，同時取消部分城市的計劃單列體制。將計劃單列市確定為副省級市，加強了省級機構統籌規劃和協調的地位和作用，減少了省與計劃單列市之間因權限劃分不清引起的矛盾和扯皮。副省級市中仍實行計劃單列的，按照有關規定繼續享受原有的管理權限;不再實行計劃單列的，原來中央賦予的權限原則上暫不改變;對原來不是計劃單列的，其權限需要調整變動的，由所在省和中央有關部門協商後確定。
1995年，中央機構編制委員會印發《關於副省級市若幹問題的意見》的通知(中編發〔1995〕5號)，明確將前述16個市定為"副省級市"，但它們仍為省轄市，由所在省的省委、省政府領導。
1997年，重慶恢復為中央直轄市後，副省級市減少為15個。