一九三一年一月，王明在党的六届四中全会上，篡夺了中央的领导权。他们以“反对立三路线”、“反对调和主义”为旗号，极力推行“左”倾教条主义路线。在土地问题上，他们攻击“抽多补少、抽肥补瘦”、“平均分配” 的正确政策为所谓“非阶级路线”、“富农路线” ，并于同年九月一日给苏区中央局发“指示信” ，强令全面贯彻其“地主不分田，富农分坏田”的“左”倾政策。这时，谢维俊敏锐地察觉到了他们这样做的矛头所向，“坚决反对实行‘地主不分田，富农分坏田’的 ‘左’倾错误，不断地向各种违背毛泽东同志的正确政策的倾向作不调合的斗争。”③他担任永丰中心县委书记时，仍然贯彻执行“平均分配”、“抽多补少、抽肥补瘦”的土地政策，使土地革命朝着健康的方向发展。在永丰、公略、万泰诸县的干部和群众中，他享有崇高的威信④。
十一月，中央苏区第一次党代表大会召开前后，王明“左”倾教条主义者为了撤销毛泽东苏区中央局书记职务，加快推行“左”倾错误的步伐，诬蔑反“围剿”中的诱敌深入是“保守主义”、“游击主义”，诬蔑毛泽东在苏区的正确路线为“右倾机会主义”、“富农路线”，并讥笑“山沟里没有马克思主义”。谢维俊与在江西苏区工作的邓小平、毛泽覃、古柏等一道，针锋相对地说： “山沟里为什么没有马克思主义?” “大城市里产生了立三路线，我们苏区的山上，却全是马克思主义”，“这些洋房子先生是到苏区来找岔子的。”①对王明的“左”倾错误论点，给予了有力的驳斥。
英勇善战
中央苏区粉碎敌人第三次“围剿”后，为了统一指挥地方武装，对付敌人的再次进犯，中央革命军事委员会于一九三二年二月决定组建江西省军区，由陈毅任司令员兼政治委员 (后李富春任政委)。不久，谢维俊调江西省军区政治部工作②。同年九月，江西省军区第二军分区在乐安县太平墟成立，谢维俊调任第二军分区司令员; 红军独立第五师师长郭天民调省军区后，他又接替了郭天民的职务③。谢维俊与乐安中心县委书记兼第二军分区和独立第五师政治委员胡嘉宾密切配合，带领独立第五师、乐安新、老独立团、宜黄独立团和崇仁、谷岗、善和、竹溪、望仙等游击队，以乐安为中心，积极活动于乐、宜、南、广、永丰等县的广阔地域①。
乐、宜、崇是中央苏区北线之门户，是敌我拉锯式争夺之要地，敌情十分复杂。第二军分区担负着肃清反动武装、巩固边区、扩大苏区、建设地方政权和配合主力红军作战的艰巨任务。谢维俊到任不久，就领导、指挥永丰、乐安两县的地方武装，消灭了反动的“独立勇敢队”，初露军事指挥才能。“独立勇敢队”是原善和游击队队长邱汉七在革命低潮时带领部分队员叛变革命而纠集起来的反动武装，他们既打白匪，又伏击红军，经常在群众中散布流言蜚语，破坏我党的各项方针政策，危害极大。乐安中心县委接到江西省委消灭“靖卫团”首先消灭“勇敢队”的指示后，即派谢维俊率部前往进剿。他们一面展开政治攻势，分化和瓦解敌人，揭露“勇敢队” 的真相，争取群众的支持，一面组织五百多人的武装冲锋队，直捣匪巢。经过一个多月的艰苦斗争，终于拔除了这颗号称“第三武装”、为害一年多的钉子，从而巩固了永丰、乐安边区②。
一九三二年十一月，乐安中心县委为贯彻《新发展区域工作大纲》，制定了开辟谷岗的计划，首先由高武根等六人组成白区工作团抵达崇仁属之谷岗发动群众，随后由谢维俊率独立第五师、万太独立团等武装部队进驻。在武装部队支持下，工作团在谷岗、欧坊、板岭、东家岭、汤山一带发动群众，打土豪，建农会，成立了谷岗、欧坊等乡苏维埃。不久，又成立了中共崇仁县工作委员会。谷岗新区的开辟，对于推动崇仁县的土地革命，有着重要意义①。