1929年12月11日,邓小平、张云逸等同志组织领导百色起义,成立了中国工农红军第七军,邓小平任政治委员,张云逸任军长,李明瑞任总指挥。在敌我力量悬殊,军需物资缺乏的情况下,红军为避敌锋芒,扩大政治影响,筹集军需物资,红七军采取新的战略。
1930年3月初,红七军前委根据右江地区形势的变化,在盘阳召开会议,作出了“就地(右江)与敌周旋和扩大革命根据地相结合”的决定,由军部率领一、二纵队到黔桂边境打游击,留下韦拔群率领第三纵队及赤卫队坚持根据地斗争。张云逸军长在回忆录中曾说道:“当时,决定到贵州打游击的主要目的,一方面向广大群众宣传革命道理,扩大红军的政治影响;另一方面则是避开敌人主力部队的锋芒,诱使李(宗仁)、白(崇禧)军队撤出右江地区去守卫他们的老巢——邕、梧、桂、柳等城市(因那时蒋介石正准备向李、白进攻),然后我们再回师右江,恢复根据地。同时,还准备在打游击时,消灭敌人一部分武装和解决我们经费上的困难。”
1930年3月底,张云逸军长、李明瑞总指挥率领红七军一、二纵队3000余人从盘阳、东兰等地出发,踏上游击黔桂边区的征程。4月初,红军在广西思恩县(今环江县)城郊,与跟踪而来的桂军杨腾辉部发生激战,之后,一、二纵队分别从不同方向,向贵州境内挺进。红军终于摆脱了桂系军阀部队的尾追,于4月16日到达荔波县的板寨会师。红军进入荔波县境后,荔波县县长急忙下令各区民团集中到县城防守。
红七军在板寨休整期间,召开前委会议,研究此后的作战方案。据侦察得知,荔波县城只有保警队和各区民团防守,战斗力不强。而远在几百里之外的榕江县城古州,清代曾是贵州的4个军事重镇之一;由于水运交通便利,商贸繁荣,成为贵州省东南部最大物资集散地。贵州军阀王家烈在古州囤积有大量的军需物资。为争夺地盘,王家烈率黔军主力在黔湘边境与湖南军阀大动干戈。榕江古州城由黔军副师长史远勋率1个团兵力驻守,王家烈的妻儿当时也住在榕江。由于军阀混战,加重了各种苛捐杂税,给群众带来了深重灾难。1929年,榕江乐里地区七十二寨暴发了抗粮抗款斗争,有较好的群众基础。前委会议分析了攻打荔波县城和榕江县城的利弊得失:荔波县城守敌不多,战斗力弱,打下荔波县城易如反掌,唾手可得。榕江县城有1个团的兵力驻守,攻打榕江是一块硬骨头,但打下榕江县城能扩大红军的政治影响,同时能为部队补充大量的枪支弹药和军需物资。前委会议最后决定,穿越月亮山区,奇袭榕江县城古州。