抗日战争胜利后，根据中共中央的指示，皖中的新四军七师部队开赴苏北、山东解放区后，安庆反动势力极其猖獗，皖江地区形势日益紧张。在此形势下，新四军七师和皖江区党委决定留下小部分武装队伍，进入大别山山区，开展隐蔽的敌后斗争，建立游击根据地，为皖西地区的解放留下革命的种子。

1945年10月，白湖中心县委书记桂林栖和新四军第七师沿江支队沿江团二营教导员钟大湖，率领两个连和手枪队约400人到达潜山后冲，与先期到达的张伟群、杨震游击队会合，在后冲大虎叉召开连以上干部会议，决定在中共桐怀潜工委基础上成立中共皖西工委，并整编皖西大队。皖西工委下设6个连和1个手枪队，由新四军七师和华中分局直接领导。

皖西工委成立后，以桐潜交界的后冲、螺丝岭、水贵、蒋铁一带山区为中心，向周围发展，分散活动于潜、岳、太、舒、桐一带山区；调整了一批干部到皖西各地，在一些村庄建立了地下党组织，组织了多支游击队，广泛开展游击战争；组建了3个县委和1个工委（岳北县委、潜太县委、桐庐县委、湖西工委），先后恢复和发展党员数百人。

皖西工委是解放战争时期党在皖西的重要领导机构，为刘邓大军挺进大别山、扎根大别山打下了基础。