祭遵少好經書，其家雖富，但祭遵卻十分節儉，常穿破舊的衣服。其母去世，他親自背土，壘造墳塋。曾有部吏欺凌他，被他結交俠士殺死。開始，縣城中人認為他柔弱怯懦，此事之后，人們就都畏懼他的膽識了。

　　劉秀在昆陽擊敗王尋(參見昆陽之戰)，回軍經過潁陽。祭遵以縣吏的身份幾次進見。劉秀喜歡他的風度容儀，任命他為門下史。

　　后來，他隨軍進攻河北，擔任軍市令。一次，有個伺侯劉秀的小郎犯了法。祭遵毫不客氣，當場處死了他。劉秀得知，十分惱怒，下令收捕祭遵，加以懲處。主薄陳副勸阻說：“明公常想讓眾軍整肅。現在祭遵執法毫無避忌袒護，正是助您教令諸軍的好機會。”劉秀這才赦免了祭遵，并任命他為刺奸將軍。事后，劉秀常對將領們說：“當備祭遵！吾舍中兒犯法尚殺之，必不私諸卿也。”(《后漢書》)不久，祭遵又升任偏將軍，隨從劉秀平定河北，因功受封為列侯。

　　建武二年(26年)春，光武帝劉秀任命祭遵為征虜將軍，定封潁陽侯。讓他和驃騎大將軍景丹，建義大將軍朱佑，漢忠將軍王常，騎都尉王梁、臧宮等人進軍箕谷，攻打弘農(今河南靈寶東北)、厭新、柏華、蠻中的敵兵。作戰中，敵人的弩箭射到祭遵的嘴上，傷口流血不止。眾將見祭遵受傷，漸生退意，陣腳移動。祭遵不顧傷痛，大聲呵止。士兵見祭遵如此剛強，勇氣百倍，終于大破敵兵。

　　盤踞在新城、蠻中一帶的山賊張滿，屯駐險要地方，為害百姓。朝廷命祭遵前去討伐。祭遵先斷絕了張滿的糧道，然后堅守營壘，堅壁不出。這時，厭新、柏華等地的殘敵又和張滿呼應，攻占霍陽聚。祭遵抓住有利時機，分兵將他們各個擊破。第二年春，張滿無衣無食，陷入困境。祭遵攻破城邑，生擒張滿，將其處死。接著，祭遵率兵南進，在杜衍擊敗鄧奉的弟弟鄧終。

　　十月，涿郡太守張豐扣留漢使，起兵反漢，自稱無上大將軍，并與彭寵連兵。建武四年(28年)，祭遵與朱佑、建威大將軍耿弇、驍騎將軍劉喜率部前往討伐。祭遵先到涿郡，統兵攻城，勢如急風驟雨。張豐的功曹抓獲張豐，獻城歸降。

　　原來，張豐喜好方術，有一道士投其所好，說他應為天子，并把五色彩囊包上石頭，掛在他的肘后，騙他說石頭中有玉璽。張豐深信不疑，于是造反。一直到被擒獲將要問斬，張豐還說：“肘石中有玉璽”。祭遵命人將石頭砸碎，張豐才知被騙，連嘆該死。

　　諸將率軍撤回，祭遵則奉詔屯駐留鄉，抵拒彭寵。他派護軍傅玄襲擊彭寵的將領李豪，結果大獲全勝，斬首千余敵人。祭遵和彭寵對持一年多。屢次打敗彭寵，挫其鋒芒。彭寵同伙，有許多都投降了祭遵。建武五年(29年)，彭寵被他的蒼頭所殺，祭遵乘勢進軍，平定其地。

　　建武六年(30年)春，光武帝命祭遵和建威大將軍耿弇、虎牙大將軍蓋延、漢忠將軍王常、捕虜將軍馬武、驍騎將軍劉歆、武威將軍劉尚等從天水進軍，討伐公孫述，并事先詔告隗囂。部隊行至長安，光武帝也趕到了。隗囂不愿讓漢兵經隴道進軍，上書設辭，說；“白水險阻，棧閣絕敗，難以行走。”光武帝召集眾將，議決此事。將領們都說“可且延囂日月之期，益封其將帥，以消散之。”只有祭遵持不同意見。他說：“囂挾奸久矣。今若按甲引時，則使其詐謀益深，而蜀警增備，固不如遂進。”(《后漢書·祭遵列傳》)光武帝認為他說得對，便派他為先行。隗囂派他的將領王元據守隴坻(今陜西隴縣，甘肅清水之間)，伐木塞道，以擋漢軍。祭遵鼓勇進攻，擊敗王元，追至新關。等到諸將到來，與隗囂作戰，紛紛失利，退兵下隴。于是，光武帝命祭遵駐汧(今陜西隴縣南)，耿弇駐漆，征西大將軍馮異駐栒邑，大司馬吳漢等還屯長安。此役之后，祭遵又數挫隗囂，事在馮異傳。

　　建武八年(32年)秋，祭遵又隨光武帝由隴道西上，出征隗囂。不久，隗囂由略陽敗退，光武帝東歸，經過汧縣，特意到祭遵營中犒賞士卒，演奏黃門武樂，夜深才罷。當時，祭遵重病在身。光武帝特賜以重茵，覆以御蓋，關切倍至。命令他進駐隴下。后來，公孫述派兵救援隗囂，吳漢、耿弇等撒軍逃回，只有祭遵留在駐地，獨守沖難，沒有退卻。

　　建武九年(33年)，祭遵病死軍中。

　　祭遵為人廉約小心，克己奉公，他得到賞賜，都分給部下，不治產業，家無余財。自己一生，穿皮褲，蓋布被。夫人也裳不加緣，簡樸至極。他兄長祭午見他沒有兒女，便做主娶了一妾給他送去。祭遵堅決不受。他認為自己身荷國家重任，因而不敢圖生慮繼嗣之計。臨死時，他告訴家人將自己用牛車拉回，薄葬洛陽。問他家中之事，他一句也不說，“清名聞于海內，廉白著于當世”，“任重道遠，死而后己。”

　　祭遵竭誠奉公，盡忠為國。他一生戎馬倥傯，北平漁陽，西拒隴蜀，先登坻上，深取略陽，眾兵皆退，獨守沖難，說得上縱橫南北，屢立殊勛。他帶兵有方，“制御士心，不越法度”，而且秋毫無犯，致使所在吏人，不知有軍。

　　喪禮成，復親祠以太牢，如宣帝臨霍光故事。詔大長秋、謁者、河南尹護喪事。【原標題：雅訶投壺----祭遵】