光緒二十九年,劉粹軒雖然在鄉試中名列前茅,卻并不熱衷于功名,而是乘鄉試之機,廣結同志,尋求救國救民真理。他大力倡導新學,并十分注重自身修養。他說:“有才而無德,不免禍及身;有德而無才,不能有大為。必須德才兼備,方能濟眾利民。”不久,他在赴開封與同仁共商改造河南學務后,回縣將大呂書院改為新蔡高等小學堂,并創辦新蔡放足會。
光緒三十二年,劉粹軒經人舉薦出任開封優級師范暨省高等學堂學監,倡導并成立河南學會,決心改革河南教育。不久,河南組建同盟會,他首先加入,被推為同盟會河南支部長。翌年五月,劉粹軒赴上海,與黨人于佑任等會商聯絡直、魯、豫、晉、甘、陜等北方省份的革命力量,推進革命,并以其所創辦之開封中州公學為聯絡站。時任中州公學教習的朱友英稱贊他說:“壯志允推醫國手,當朝新撰黨人碑。”同年夏,本縣同盟會員閻子固被捕,他急忙返回新蔡,同任芝銘等聚集民眾將閻救出,因此遭到清政府通緝,化名潛赴洛陽,繼續從事革命活動。宣統元年,劉粹軒轉往衛輝中學堂,以教學為掩護,從事革命活動。由于他思想敏銳,學識宏富,精于言談,態度和藹,到校不久,大批師生都向他靠攏。后來,他的學生大都成為革命骨干,如新中國成立后曾任河南省副省長的著名歷史學家嵇文甫等。
武昌昌起義打響后,劉粹軒立即潛回開封,召集同仁密商舉義,議定西聯秦軍據嵩洛,東以淮上為基地收復汝陳,北炸黃河鐵橋阻止清軍增援,南據武勝關與威武軍會師,而后聚集各路義軍會攻省城。當時南北方正在協商停戰,清軍首領周符麟、趙倜函請議和,并邀張鈁親赴甘濠會商。劉粹軒代張鈁去議和,遂與紀廉泉、劉健中同往。
民國元年(1912年)1月14日,劉粹軒等遇周符麟、趙倜于張茅。周、趙不承認劉粹軒等為和談代表,并誣蔑他們是土匪,將他們逮捕。劉粹軒等嚴詞痛斥周、趙背信棄義,周符麟、趙倜惱羞成怒,將劉粹軒束置地上,用快馬活活拖死。紀廉泉、劉健中亦慘遭殺害!
三十年后,在任芝銘、張山甫、蔡子含、馬子昭等新蔡老同盟會員的積極努力下,劉粹軒、閻子固等新蔡辛亥革命先烈,在家鄉被立祠紀念。