旅在琉璃河一帶堅持了40余日，為保證友軍在涿州、保定一帶構筑防御工事，以及從側面支援南口抗戰、掩護衛立煌軍前往南口增援都起了積極作用。直到 9月14日日軍從固安方面渡永定河，三次沖入竇店并包圍馬頭鎮，黃旅才遵令撤離琉璃河地區，在完縣以北地區集結，參加保定地區會戰。保定會戰僅由于第2集團軍總指揮劉峙“膽怯畏死，未經激戰遂下令總退卻”，而致失敗。黃旅隨同27師掩護友軍撤退后，撤往行唐一帶。

　　10月，黃樵松率部隨26路軍轉戰晉東，陳兵娘子關。10月14日，日軍77聯隊分向舊關及僮澤關侵入，黃率79旅迎戰，并派部繞襲核桃園、關溝，經兩日激戰，肉搏十余次，將關溝之敵殲滅。擊斃敵大隊長中島利男、少佐鯉登及其以下官兵300余人。黃樵松曾賦詩一首，謳歌這一勝利。詩寫道：“陳兵娘子關，壯志搏云天。笑斬鯉登頭，放歌大阪山。”（臧克家：《追記黃樵松烈士的一些往事》，《山西文史資料》第33輯）

　　居雁門關東南的1000號高地，為兵家必爭之地，也由黃旅固守。日軍曾多次進攻均未得逞。21日，敵增調39聯隊配以飛機大炮猛烈攻擊。黃旅守軍與敵展開肉搏數十次，至23日山頂工事完全被毀平，官兵全部殉國。經此戰斗，黃旅能戰官兵僅剩400余人。但“忠勇之氣，犧牲精神，絲毫不懈”，“均抱與陣地共存亡之決心。”（《二十六路軍總指揮孫連仲致蔣介石漾電》）

　　此后，隨著太原失守，山西戰局急轉直下。黃旅奉命向晉南洪洞縣集結途中，曾在霍縣韓候嶺布防，給南下日軍以打擊。1938年1月，孫連仲部由晉調豫整補，黃樵松升任27師師長。

　　日軍占領南京后，企圖打通津浦線，向徐州方面大舉進犯。1938年3月，孫連仲第2集團軍奉命開往徐州東北的臺兒莊。行軍路上，黃樵松目睹山河破碎、人民流離失所的情景，悲憤地寫下了“救國寸腸斷，先烈血成河，莫忘山河碎，豈能享安樂？”的詩句。22日，孫連仲率部到達臺兒莊，以池峰城第31師占據臺兒莊城寨及附近地區。23日，日磯谷10師團瀨谷支隊自嶧縣沿臺棗鐵路支線南下，猛攻臺兒莊。黃樵松率27師由賈莊星夜徒步向臺兒莊附近集結。翌日晚，日軍突破臺兒莊東北角，與池峰城部展開激烈戰斗，黃部在斐莊、前后棗莊、孫莊一帶與敵展開拉鋸戰。

　　28日，日調集兵力，再次發起猛攻，從西北角沖入臺兒莊內。黃部郭團、杜團分向劉家湖、邵家莊、前園村、墳上等處進攻，并占領邵家莊，迫近劉家湖。29日，磯谷率師團主力自嶧縣附近南下，坂垣師團之坂本支隊從臨沂南下，一起猛撲臺兒莊。黃樵松27師與張金照30師分左右兩翼出擊。4月2日，黃挑選奮勇隊員250人，從臺兒莊東北角攻入，延至東門，乘勢向西北擴展；30師攻進西北角。翌日，莊內日軍向我發起總攻，集中炮火向東南角轟擊，黃部始由莊內撤出。4月6日，我軍對臺兒莊發起全線反攻，黃部分向紀莊、王莊猛攻，進抵滄汪廟、東莊、李莊、陶溝橋等處。敵不支潰逃，晚11時將各村占領。我大部隨即向前后劉橋，劉家湖進擊，肅清各村之敵。此時池師等部也將莊內日軍肅清，從而取得臺兒莊戰役勝利。

　　臺兒莊大捷在中國抗日戰爭史上譜寫了光輝的一頁。黃樵松自始至終率部戰斗在第一線，在這次戰役中所部付出了重大的犧牲。戰后所部僅編為一個旅，在追擊敵人的戰斗中擔任軍預備隊。

　　5月，日由晉冀抽調大軍南下，企圖攻略徐州。黃部受命駐守徐州西北九里山附近。徐州被日軍包圍，國民黨最高統帥部決定分五路突圍，黃部27師與30師奉命掩護友軍撤退。5月19日，敵步騎炮兵附戰車數十輛，在空軍配合下猛攻27、30師陣地，“官兵皆深明大義，……雖孤軍重圍，仍極力苦撐，陣線屹然未動”（第二集團軍孫連仲部參加魯南臺兒莊一帶作戰戰報》）至下午5時，待徐州城內軍隊全部撤離，黃始率部沖出重圍，24日到達淮陽附近。“沿途屢遭敵人追擊，損失奇重”（同上）。

　　6月，孫連仲部駐湖北廣水一帶，27師駐應山。黃樵松利用部隊休整機會，編印了《軍民日報》，刊載戰地消息，反映部隊訓練、軍民關系等情況，激勵將士作好戰斗準備；同時成立了抗戰干部隨營學校，招納新生，補充戰斗中的減員。1948年太原起義中，與黃樵松一道就義的30軍諜報隊長王震宇，就是這時從漢口招來的新學員。27師經過短期補充休整，開往大別山北麓潢川一帶，投入保衛大武漢的戰役。

　　1938年8月，武漢會戰大別山北麓戰役開始。9月上旬，黃樵松所部在潢川以南地區與日軍進行過一些戰斗。中旬，日軍13、16師團等部繼侵占葉家集、商城等地，沿商（城）麻（城）公路進犯大別山，集主力攻擊商麻公路上的戰略制高點鴉雀尖，發誓要拿下這一戰略要地。黃樵松親自指揮保衛鴉雀尖。當戰斗激烈之時，師指揮所從山腰搬到山頭，黃樵松和參謀人員晝夜圍看地圖，指揮作戰。詩人臧克家當年寫的長詩《國旗飄在鴉雀尖》真實地記錄了這次戰況。詩中寫道：“士兵死了，連排長上去。連長死了，拿營長去填。”“沒有兵力給他增援，送去的是國旗一面。另外附了一個命令，那是悲痛的祭文一篇：‘有陣地，有你。陣地陷落，你要死。錦繡的國旗一面，這是軍人最光榮的金棺’。”黃師與敵人在商麻公路鏖戰月余，直到10月下旬武漢撤守前夕，日軍始突破大別山。27師經老河口退到南陽休整補充。

　　1940年，豫南日軍分數路向我進犯，5月1日在明港附近遇到黃樵松等部左右夾擊，損失慘重，至5日被殲2000余人。這一消息轟動了后方，各報都在顯著位置上加以報道。（《中央日報》重慶，1940年5月5至7日。） 5月18日，黃樵松為配合友軍進攻信陽，派出一團人乘夜穿過敵據點，突入敵人占領的信陽車站一帶，出其不意地消滅了一批日軍，并放火焚燒了敵倉庫。這一行動，也曾給全國軍民以鼓舞。

　　守衛南陽是黃樵松參加抗日的最后一次激戰，也是他抗日史上的光輝篇章：1945年3月，日軍集結五個師團并騎兵第4旅團共7萬多人，戰車百余輛，于21日分路向南陽、老河口、襄樊進犯。黃樵松此時已調任68軍143師師長，受命固守南陽。他一面督促部隊整修城防工事，一面屯積糧秣彈藥，還備棺材一口，親筆書寫“黃樵松靈樞”，表示決心與南陽共存亡。戰斗打響后，黃率部頑強抵御，當獨山為日軍占領時，黃樵松遷師部于一醬菜店的頂樓上，白天憑欄指揮，入夜親臨前沿陣地。日軍集中火力攻打小西關，黃部連續打退敵人四次進攻；東關、北關的守軍與日軍展開了巷戰。守衛馬武冢、臥龍崗、元妙觀的429團三個排，在戰斗中殲敵近千人，直到彈盡援絕，全部壯烈殉國。經七晝夜激戰，頂住了敵人的壓力，我陣地巍然未動。后來黃部受命突圍。4月1日夜晚，士兵身穿棉衣涉水渡過白河。此時杏花初綻，河水仍寒。黃樵松回復再三，依依不舍地告別戰地：“別矣南陽城，回顧復回顧，紅杏暗送香，白水牽衣訴。”（《太原文藝》1980年第2期）這次突圍后，有人寫了一部名叫《鐵打宛城》的歷史小說，描寫了黃樵松堅守南陽的悲壯場面。