1937年8月13日,日本侵略军向上海发动进攻。9月下旬,黄维接任第十八军第六十七师师长职,率部抵抗。上海抗战后,他奉令率部转到皖南山区。1938年,升调第十八军军长。7月中旬,日军第十一军的五个师团和波田支队,分兵沿长江及两岸进攻武汉。黄维受命参加武汉会战。1939年,日军攻占越南后,在滇越边境集结兵力,企图进攻云南。黄维继任第五十四军军长,由昆明赶赴滇越边境,率第五十四军抗击日军入侵。
1938年武汉会战期间,借了8门大炮给时任656团当团长的廖运周,攻打日本人。
1948年11月25日, 黄维兵团被合围于宿县附近的双堆集。11月27日,在黄维突围当天,中共地下党员八十五军一一零师师长廖运周率部起义并反戈一击,打乱了黄维的突围计划。廖运周后来回忆:"我向他(黄维)建议'4个师齐头并进不如用3个师好, 把十八军的主力师留在兵团作预备队, 可以随时策应。'黄维见我敢于挑担,又替他着想,很是高兴。对我进行了一番赞扬,连声说'好同学, 好同志,你要什么我就给你什么,坦克、榴弹炮随你要'。他还让兵团副参谋长韦镇福通知空军调飞机配合我们行动。"