祭遵，字弟孫，東漢初潁川潁陽人，今臨潁東北一帶人。祭遵少好經書，其家雖富，但祭遵十分節儉，常穿破舊衣服，其母去世，他親自背土，壘造墳塋。曾有豪吏欺負他，被他結交的俠士殺死，城中人開始認為他怯懦，此事之后，人們都畏懼他。

    劉秀發動義兵討伐王莽時，祭遵數次進見劉秀。劉秀看他風度不凡，儀容偉岸，便任命他為門下史。后來，他隨軍進攻河北，擔任軍市令，他執法嚴明，軍市秩序良好，沒有欺詐現象。一次，有個伺候劉秀的小郎犯了法，祭遵毫不客氣，當場處死了他。劉秀得知，十分惱怒，下令收捕祭遵要加以懲處，主薄陳副勸阻說：“明公常想讓眾軍整肅，現在祭遵執法毫不避忌袒護，正是讓您的教令行諸于軍的好機會。”劉秀這才赦免了祭遵，并任命他為刺奸將軍。事后，劉秀對將領們說：“你們要避開祭遵！我府邸奴仆犯法尚且嚴懲，他也一定不會偏袒你們的。”不久，祭遵又升任偏將軍，隨從劉秀平定河北，因功受封為列侯。

    建武二年（26年）春，光武帝劉秀任命祭遵為征虜將軍，封為潁陽侯。及至進軍箕關攻打南方敵兵時，敵人的弩箭射到祭遵的嘴上，傷口血流不止。眾將見祭遵受傷，漸生退意，陣腳移動。祭遵情急之中，不顧傷痛，橫刀立馬，厲聲喝斥：“誰敢后退！”士兵見祭遵如此剛強，勇氣百倍，終于大破敵兵。祭遵又斷絕了張滿糧道，攻破城邑。第二年祭遵跟隨諫議大將軍朱祐到東陽，大破延岑。

    之后，祭遵到涿郡討伐張豐，至漁陽斬殺彭寵，大軍所到之處如急風驟雨，所向披靡。收復土地后，祭遵屯駐留鄉，教化百姓，訓練士兵，樹立朝廷威信。

    建武八年，光武帝親自率軍征討隗囂。漢軍想求一戰勝敵，諸軍合力攻敵，但所帶糧草不夠，士兵逃亡很多。隗囂趁勢反攻，各路漢軍都向東潰逃，安定、北地、天水、隴西一帶又被隗囂占據，只有祭遵留在駐地，獨守沖難，沒有退卻。第二年春，祭遵病死軍中。

    祭遵愛儒術，不僅選拔人才獨尊儒術，就連飲酒時的娛樂，也只用儒家的雅歌投壺。他還建議朝廷為孔子立后，并奏請設置五經大夫。他雖然身在軍旅，但從不忘俎豆之禮。

    祭遵一生為人廉約小心，克己奉公。他得到賞賜，都分給部下士卒，不治產業，家無余財。自己一生，穿皮褲，蓋布被。夫人衣裳不曾加飾邊，簡樸至極。臨死時，他還誡家人將自己用牛車拉回，薄葬洛陽，不事奢華。

    祭遵死后，光武帝劉秀悲痛異常。他的靈柩運回河南時，劉秀命百官都去迎接，自己也素服親臨，經過他的喪車時，劉秀淚流滿面，不能自己。葬禮那天，劉秀又親自用太牢祭祀他，并為他送葬。葬禮完畢，劉秀又到他的墳前吊唁，并到家中慰恤其家屬。每當朝會時，光武帝常常嘆息，說：“安得憂國奉公之臣如祭征虜者乎！”贈謚號“成侯”。