矩陣中非零元素的個數遠遠小於矩陣元素的總數，且非零元素的分布不規則，因此該矩陣稱為稀疏矩陣。相反，如果非零元素的分布是規則的（如上三角矩陣、下三角矩陣和對角矩陣），則該矩陣稱為特殊矩陣。
稀疏矩陣的計算速度更快，因為M AT L A B只對非零元素進行運算，這是稀疏矩陣的壹個突出優點。假設矩陣A和B中的矩陣相同，計算2*A需要壹百萬次浮點運算，但計算2 * B只需要2 0 0 0次浮點運算。由於M AT L A B無法自動創建稀疏矩陣，因此需要特殊命令才能獲得稀疏矩陣。
對於存儲在二維數組中的稀疏矩陣Amn，如果假設存儲每個數組元素需要L個字節，那麽存儲整個矩陣需要m*n*L個字節。然而，這些存儲空間大多存儲0個元素，這導致了大量的空間浪費。為了節省存儲空間，只能存儲非0元素。