武則天永昌元年（689），任洛陽令的魏元忠與張楚金、郭正壹、元萬頃等人為酷吏周興陷害，以“謀反罪”押赴刑場準備處死。臨刑前武則天念及元忠在平定李（徐）敬業叛亂中所立的大功，派鳳閣舍人王隱客快馬赴刑場口傳赦令。當赦免的喊聲傳到刑場時，引頸就戮的人都歡呼雀躍，唯有魏元忠安坐不動，平靜地說道：“未知敕令真假，豈可造次。”等到正式宣讀完敕令後，魏元忠才慢慢站起來，以跪拜之禮答謝了皇恩。從始至終，魏元忠都鎮定自若，觀者無不為之動容。事後，他被流貶到貴州。
周興被誅後，魏元忠被重新起用，入朝任禦史中丞。重返朝廷的魏元忠雖歷盡磨難，但仍不改其剛直不屈的個性，因此被酷吏來俊臣等視為眼中釘。長壽元年（692），來俊臣誣告他和狄仁傑等人企圖謀反，酷吏侯思止負責審訊事務，面對他們的嚴刑拷問，倔強的元忠始終沒有屈服，於是被再次流放到外地。
神功元年（697），來俊臣被誅後，很多朝臣都為魏元忠鳴冤叫屈。惜才的武則天立即將其召回重任肅政中丞（即禦史中丞）。魏元忠先後三次被判死刑和流放，但都誌節不屈。武則天曾在壹次宴會上問他：“妳多次遭到誹謗，這是為什麽？”元忠自嘲道：“臣好比壹只鹿，羅織罪名的人都想以臣肉為羹。這些小人誣陷臣以求功名，臣如何能躲避他們？”
聖歷二年（699），魏元忠被提拔為鳳閣侍郎、同平章事。不久又遷為禦史大夫，兼洛州（今河南洛陽）長史。當時，女皇內寵張易之、張昌宗兄弟權傾朝野，他們的家奴公然在街頭欺淩百姓。元忠上任後對這些惡奴毫不留情，統統用刑杖笞殺，沈重打擊了二張的囂張氣焰，洛陽百姓拍手稱快。廬陵王李顯被重立為太子後，魏元忠擔任太子左庶子。此時，二張兄弟更加恃寵而專橫跋扈，搞得朝政日壞。忠直的元忠當面對武則天進言說：“臣自先帝（高宗）以來，蒙受朝廷大恩，得以位列宰相，卻不能盡忠死節，使小人在陛下左右逞威，這是臣的罪過。”武則天聽後很不高興，二張兄弟更是懷恨在心。
長安三年（703），張昌宗等人誣告魏元忠與司禮丞高戩私下議論說：“太後年紀老了，不如挾制太子作長久的打算。”元忠又被逮捕入獄。武則天召集太子李顯與諸宰相到場，令張昌宗與魏元忠當堂對質。張昌宗暗地裏威脅利誘當時的鳳閣舍人張說作偽證以害元忠，但正直的張說卻仗義執言：“實無此事。”武則天才明白魏元忠被誣，但因為張昌宗的緣故，還是將他流貶外地，直到中宗復位後才召回朝中任相。