黨河南省黨部派員到達臨潁，開始“清黨”活動。谷遷喬看到形勢日益惡化，決定城內共產黨員迅速撤出縣城，到農村繼續堅持斗爭，落實暴動計劃。此時，中共臨潁縣委成立，谷遷喬任書記。下設城西和東南兩個區委，并決定迅速建立農村黨支部和組織農民協會。谷遷喬奔走于西華縣的崗張、白莊，臨潁縣的黃連城、夏城、程莊．郾城的呂家等村，發動農民起來和土豪劣紳進行斗爭。他還在白莊白行軒的家中自編自印《紅旗報》，連夜散發，擴大革命聲勢。 　　在共產黨的領導下，臨潁縣東南區和西南區相繼建立了農會13個，農會會員發展到5500多人。還建立了掌握一定數量的武器，擁有1100人的農民武裝——敢死隊。農民起來和土豪劣紳算賬，將縣政府的催糧衙役綁起來，戴高帽子游街……臨潁很快成為豫中農民運動的中心。 　　如火如荼的農民武裝斗爭，使國民黨臨潁縣黨部官員和土豪劣紳聞風喪膽。1928年5月10日，岳凌云在給中央的報告中寫道：“臨潁西鄉及東鄉幾次事變，都發現許多武器，以及城內C舉)行了幾次[紅)色恐怖等緣故，敵人(聞)CP個個都手槍炸彈的口號，鄉下的豪紳一見辦農協的頭就躲的不見了。城內的國民黨縣黨部，夜里曾留夫役看門(怕吃手榴彈)。甚至連民團軍的師長任子杰兒子的學也不敢上了，自己也成天的躲起來。”當時，谷遷喬領導下臨穎農民運動開展得有聲有色，曾經被中共河南省委譽為“小廣州”。 　　1928年8月，因豫中特委人員變動，特委撤銷，成立中共漯河中心縣委，谷遷喬被調任中心縣委書記。他來到漯河，首先整頓恢復子郾城共產黨的組織，并繼續領導農民暴動。 谷遷喬的名聲在豫中地區越來越大。敵人千方百計地派人四處抓捕他，但是每次都在革命群眾的掩護下化險為夷。于是，敵人轉而向他的家庭下毒手。1928年的舊歷大年初一，國民黨臨潁縣政府派人抄了谷遷喬的家，并繩捆索綁地把他父親帶到縣衙毒打。后來，還是由他哥哥借債到官府活動，父親才被釋放。 　　家庭的遭遇，并沒有絲毫動搖谷遷喬的革命意志。為了不連累年邁的雙老，他忍痛暫時不與家庭聯系。就在他父親釋放返家后，谷遷喬深夜回家看望。父親說：“新棟啊！你是個好孩子，我知道。可你這么大學問，什么事干不了，非于這擔驚受怕的事兒，連家都不敢回。”谷遷喬說：“爹．我知道你跟著受連累了。可是不干，窮人就活不下去呀！我干的事兒，現在還跟你說不明白，終有一天你會知道的。以后我決不叫你再受連累。”他臨走又交待妻子說：“讓老人跟著我受連累，我也過意不去。這一回出去，非到事業成功我是不回來的。要是我犧牲了……咱的第三個孩子生下后，不管是男是女，你都要想法叫他讀書，將來好為國家做事。”誰知，這次離別，竟是他和全家的永訣。 　　(三) 　　國民黨反動派在槍殺谷遷喬的通告里，說他“是執河南共產黨之牛耳”，這里除卻敵人的誹謗、攻擊之外，從另一個側面也說明谷遷喬在河南絕非是無足輕重的人物。從1928年秋，他奉命來到省城開封，直至1931年1月他作為中共河南省委宣傳部長被捕，一直是中共河南黨組織的重要領導人之一。 　　1928年10月，谷遷喬告別了豫中大地，來到闊別了3年的古 城開封。他繞過熙熙攘攘的鼓樓鬧市，拐彎走進偏僻的火神廟街。 按照地下交通囑咐的地點、暗號，他順利地找到了臨時搬遷到這里 的中共河南省委秘書處．并接上了關系。 　　“你對開封熟悉。你在第一師范的師長、同事，還有不少人在這 里。和尚(河南省委書記張景曾的綽號)讓通知你來這里接受新的 任務。”這位名叫劉素清的女同志壓低嗓門，具體傳達·廠中共河南 省委的決定。 　　原來，自從這年春天，中共河南省委遭到敵人破壞以后，形勢 日趨惡化。近日，共青團河南省委常委吳耀卿等人又相繼叛變，敵 人便衣隊布滿開封全城，密查共產黨的地下機關。省委與中央及各 地的通訊處和接頭處，幾次遭到破壞。設在開封的國民黨河南省第一監獄內，已關押著政治犯200余人。據此，省委決定重組機關，準 備迎接中共中央派往河南工作的領導：F部，繼續開展工作。同時成 立了專門營救被捕戰友的濟難會。谷遷喬正是在這緊急時刻，來到 開封接任濟難會黨團書記，負責營救戰友工作的。 　　谷遷喬果斷、機智、膽大、沉著，有時出沒于國民黨軍政機關，利用各種關系斡旋；有時借探監的機會，與獄中戰友秘密聯絡，傳 送消息，商討營救對策。經過他和濟難會同志的不懈努力，初步打開了局面，為以后利用蔣、馮矛盾，使大批被難同志獲釋出獄，奠定了基礎。這時，由于中共河南黨組織屢遭破壞，中共中央先后派六大中央候補委員林育南、史文彬到達河南工作，谷遷喬調任省委秘書長，一直是他們的得力助手。中共河南省委1929年1月5日在給中央的報告中說：“育南同志回汴后，事實上省委已有3人負責，另找出谷滋生(即谷遷喬)為事務秘書長，再找一技術書記，省委的組織從此已足”。接著，在向中央的另一報告中說：“我走后與史(文彬)當時議及工作問題，因他行動尚未被監視，而又初由滬辦貨返汴，應付尚可，故我走后工作亦只能將未開好之鋪準備開張，暫時決定谷滋生擔任秘書，幫助史兄文字上之工作”。 　　1929年4月，中共中央在恢復河南各地組織的活動中，考慮到省委多次遭受破壞，決定暫時撤銷中共河南省委，由中央直接派巡視員負責指導工作。谷遷喬又奉命與中央巡視員劉俊才(即劉子久)一起赴豫北進行黨的活動。 　　我們從現存的《俊才巡視豫北情況的報告》(1929年6月14日)中，可以看出當時中央巡視員對谷遷喬的高度贊賞和信任。報告中說：“第二天我就與老古(谷滋生)往豫北去了。到鄭州后又幾乎走不成功，因為往北去的車已經3天沒有了，不得已就到旅館里去等車。老古因為在鄭太熟，不能與我一同走，便約定了一個旅館到那里去會面，但是我到旅館后他卻未在。我問遍了鄭州的旅館，竟無老古其人。此時真把我急壞了，因為什么通訊處、川資……他都拿著。恰巧該晚就有北去的車，我沒有辦法，只好到車站去碰一下子。哪知道在車站就遇著他了。次一日12點就到了彰德。”經過一個多月的共同接觸，中央巡視員在報告中鄭重地向中共中央建議：“以后豫北的工作，可以叫老古負總責，老古雖然沒有什么很豐(富)的經驗，但是他還清楚，并且有工作的決心。最好寫信叫他如果與焦作接上頭時，即來上海一趟以便充分的與他討論豫北的整個工作。” 　　面對敵人的殘酷破壞，谷遷喬在中共豫北黨組織的恢復工作中，做出了重大貢獻。由于他對黨的事業無限忠誠，在1930年1月，中共中央決定恢復河南省委組織的時候，他繼續任省委秘書長，不久，又擔任了中共開封市委書記。就在這年6月，中共中央錯誤地批評河南省委“右傾”，李立三“左”傾