皖西特委成立后，在外围红二十八军主力掩护下，徐诚基首先尝试在舒城、霍山、潜山交界地区创建小块根据地。舒城、霍山、潜山等县边区，山脉纵横，树林密布，有利于开展游击战争。这里的地方党组织也一直进行不懈的斗争。这儿是个孩子胡闹娘不管，打了孩子娘出来的地区。潜山县委于1934年夏恢复活动，以沙村河、湖乡为中心，组织革命武装，领导人民开展对敌斗争。徐诚基向南到了潜山县小河南(3)地区，与当地主要党组织中共潜山县委、潜山工委取得联系，并对其实施领导。先后建立了岳霍工委、鹞落坪区委、衙前区委、西潭区区委、潜北区委、蜜蜂岩区委、沙村河区委、上清区委等组织。
接着，在反敌三个月“清剿”中，由于红二十八军在外围作战，拖散了敌人，转移了敌人“清剿”重点，皖西特委乘机扩大斗争，皖西地区的武装力量迅速获得了发展。在此期间，二四六团在马家畈打垮了李维甫民团，端掉他的老巢，缴获了四十多支步枪和其他武器。特委因势利导成立了战斗营，二四六团也扩大了两个连。3月，由皖西特委二四六团部分人员及伤愈的伤病员和英山、霍山、太湖等县游击队成立了有三百多人的四路游击师，由杨正操同志任师长，胡学美任师政委。汪礼廷在马家畈组建了舒霍潜边精干的便衣队总队，下设五个小便衣队，秘密串联群众，安置伤病员，支援红军作战。不久，皖西特委加紧整顿党的组织，积极发动群众，打土豪，筹粮款，袭击民团。党的工作扩大到舒城、霍山、潜山、英山、太湖、桐城(4)、蕲春、黄梅、广济等县广大山区。徐诚基还成立了中共舒城桐城工作委员会，余海青任书记，进一步加强舒城、桐城县边区党的工作。