1932年4月24日，中共陕西省委书记杜衡来陕甘游击队巡视，在旬邑宣布撤销游击队总指挥部，将部队改编为三、五两个支队，这时刘志丹已经回到了陕甘边，就被任命为三支队队长，阎红彦担任五支队队长。4月下旬，刘志丹率领三支队在永寿、乾县一带活动。21日，他率领三支队从旬邑出发，分兵两路，一路派骑兵攻打永寿监军镇，歼敌20余人；一路派步兵直达礼泉五峰山与骑兵汇合。4月底，又率部袭击永寿常宁镇与礼泉南坊、叱干民团，消灭敌人300余人，缴枪50余支。
5月10日，陕甘游击队三、五支队集结于旬邑清水原。为了军事上能统一指挥，中共陕西省委决定重建陕甘游击队总指挥部，刘志丹任总指挥。这时，敌人派出几个旅的兵力，重兵进剿陕甘游击队。当时，中共陕西省委就指示游击队立即北上。刘志丹主持召开队委会议，分析了敌情，认为分驻中部（今黄陵）、宜君、洛川之敌的86师256旅511团战斗力弱，又离榆林、西安都比较远，增援不易；再说这一带又是山区，游击队在群众中又有一定的影响，利于作战，于是决定向该地区行动，消灭敌511团。于是在5月15日晚上，刘志丹指挥游击队奔袭旬邑马栏镇，一举歼灭国民党86师511团的一个营部、两个连和民团的一部分，缴枪200余支。
5月17日，刘志丹又率领游击队发扬连续作战的作风，在一天之内又连歼杨家店守军511团两个连和焦家坪、五里镇两地的民团共500余人，缴枪400余支。战斗结束后，游击队就在五里镇一带发动群众，打土豪分粮食，扩大红军，队伍迅速发展至1500余人。
5月20日，游击队向东挺进，继续向敌进攻，歼灭了白水县及中部县民团百余人。随后，部队在宜川英旺镇歼国民党军86师一个营，缴枪300余支、弹药两万余发。
在此次反“围剿”中，刘志丹和他领导的陕甘游击队，依靠地方党组织和人民群众的支持，运用游击战术，在半个月之内，挺进数百里，打遍了五个县，参加大小战斗9次，8次获得胜利，并歼敌1400余人，缴枪1200余支，粉碎了国民党当局的重兵进剿。直到这时，国民党军86师才尝到了陕甘游击队的厉害，就由进攻转入防守，而中部、宜君、洛川等地的反动民团，再也不敢轻举妄动了。
1932年6月1日，党中央在上海召开了有满洲、河北、河南、山东、山西、陕西等六个省委负责人参加的“北方会议”，决定将陕甘游击队改编为红26军，并决定派杜衡（曾任中共陕西省委书记）为红26军政委。
就在这时，由于身为三支队二大队长的高岗在战斗中临阵撤退，使陕甘游击队在甘泉临真镇战斗中失利。刘志丹立即率游击队自富县向东转移，在集义镇消灭民团一部，进至韩城的上官庄，发动群众，帮助地方党组织建立了50余人的赤卫队。原计划在此开辟根据地，但因遭强敌袭击，伤亡较大，被迫退至甘肃宁县麻子掌，部队在思想上一时陷入混乱，在行动方向上发生了到底是南下三原还是北上陕北的争执，双方相持不下。
为此，陕甘游击队总指挥部就在甘肃省宁县麻子掌召开会议，统一了思想，确定了部队行动方向，作出了以桥山山脉为依托，就地开展游击战争，等待时机向南发展的决定。同时将三、五支队改编为两个步兵大队和一个骑兵大队，阎红彦任陕甘游击队总指挥，刘志丹任二大队大队长兼政委。
7月下旬，中共陕西省委派常委李艮到陕甘游击队任政委。李艮到后，推行“左”倾错误，不顾敌人准备“围剿”游击队的严峻形势和刘志丹、阎红彦等人的反对，在正宁南邑村连续召开干部会议，空谈创造新苏区和红26军（此时，中央已同意陕西省委建立正规红军的意见，番号为红26军），批评刘志丹、阎红彦等所谓的“机会主义领导”，并限定20天内，在正宁五顷原完成土地改革和建立政权的任务。
8月中旬，当游击队反“围剿”时，李艮又命令部队进攻王郎坡寨子，失利后又命死守五顷原，导致王郎坡、五顷原、三嘉原三战皆败，部队损失很大。刘志丹同这种“左”倾错误进行了坚决斗争，并耐心地进行说服。但这些人根本不听，仍令进攻敌人设防坚固的城镇，结果连打败仗，使部队遭受极大挫折，被迫退至旬邑马栏附近。
1932年8月底，中共陕西省委再派谢子长任陕甘游击队总指挥。这时，敌人又调集了3000余人，分3路对游击队开始新的“进剿”。国民党陇东绥靖司令部两个团从正宁、宁县早胜等地自西向东对游击队发动进攻，84师511团以同官（今铜川王益区、印台区）为中心由东向西发起进攻，陕西警卫团和陕西省保安第一游击队由彬县、旬邑向北，富平、同官、耀县民团向西进攻，三路敌军企图将陕甘游击队包围在照金地区，然后消灭。
大兵压境，情况非常危急。但是大敌当前，谢子长和刘志丹沉着应战，采取避锐攻弱的灵活战术，指挥游击队由杨柳坪向后山佯装撤退，然后在照金以西埋伏，诱敌深入。当敌军向照金扑来时，不想已经进入了游击队的包围圈。游击队立即将其包围，趁拂晓大雾弥漫之机，发动攻击，打得敌人晕头转向，然后又马上撤出战斗。当敌人进入照金扑空后，游击队又回师在坟滩、柿坪等地发起攻击。激战不到两小时，打死民团总指挥党谢芳，活捉蔡子发等七名民团头目，缴获长短枪300余支，给敌军以重创。照金战斗的胜利大大鼓舞了游击队的士气。几天后，敌人又集结几县的兵力，向游击队进行反扑。为了避开敌军主力，刘志丹采取灵活机动的战略战术，率领部队撤离照金，挥师北上，到保安县寻找新的战机。
在撤离照金时，刘志丹将一支精锐的特务队留下，交由习仲勋领导。经过两次兵变失败后，习仲勋已经回到了照金地区，当时正在照金地区坚持游击战争，开辟革命根据地。
9月中旬，谢子长和刘志丹率领陕甘游击队攻打保安县城，在经历了两次失利后，便将队伍撤到甘肃省合水县平正川的梢林地带，总指挥部决定游击队分散活动，伺机歼敌。当时刘志丹率领70余人到合水、庆阳一带活动，杨森、黄子文带领60余人到三原武字区，杨重远、阎红彦带骑兵队到照金一带活动，谢子长依靠群众的掩护，带领30余人，在平正川、豹子川的山林里，照看伤病员。经过各路部队的努力，又筹得了一批粮款，取得了一些胜利，使陕甘游击队又恢复了战斗力。
10月4日，陕甘边红军临时总指挥部成立，总指挥为王泰吉。刘志丹回到照金后即被任命为副总指挥兼参谋长。10月中下旬，刘志丹和王泰吉挥师北上，先后在合水县城、毛家沟门、杨家店三战三捷，歼敌数百人。
11月上旬，陕甘边特委和陕甘边红军临时总指挥部在合水包家寨召开联席会议，根据刘志丹的建议，总结以往斗争经验和失败教训，讨论制定了改编部队、建立根据地和行动方针等重大决定，决定撤销陕甘边红军临时总指挥部，恢复红26军番号，并成立红42师，由王泰吉任师长，刘志丹任参谋长，高岗任政委，辖2个团500余人。会议还决定红军暂时撤离照金，开辟以南梁为中心的革命根据地。随即，刘志丹和王泰吉分兵两路继续北上，在二将川会师，利用战斗空隙在二将川、平正川、太白川、白马庙川一带发动群众，打土豪分粮食。
12月上旬，各路游击队在甘肃省合水县黑慕原、塔儿原地区会合。根据陕西省委指示，南下淳化地区。就在这时，根据1932年4月20日中央作出的《关于陕甘游击队的工作及创造陕甘边新苏区的决议》，同意中共陕西省委创建正规红军，规定番号为中国工农红军第26军41师的决定精神，省委指示游击队开往宜君转角镇整编，准备成立红26军。此时中共陕西省委书记杜衡以中央北方局特派员的身份来到部队，利用部队改编机会进行宗派活动，打击领导干部，撤销了谢子长和刘志丹等主要领导人的职务。
1932年12月下旬，杜衡来到陕甘游击队。12月20日，杜衡在宜君杨家店召开党、团员大会，宣布省委改编红军陕甘游击队为中国工农红军第26军第2团的决定，杜衡任军政委兼团政委，并对游击队一年来的活动横加指责。
杜衡在12月22日召开的党、团员大会上，严厉批评谢子长、刘志丹、阎红彦、杨重远等犯了“流寇主义”、“梢山主义”、“土匪路线”、“右倾机会主义”的错误，还擅作主张，给予谢子长留党察看的处分，并强蛮地撤了刘志丹、谢子长等人的领导职务，同时挑动战士召开军人大会，批判斗争谢子长、刘志丹、阎红彦、杨重远，欲将刘志丹、谢子长、阎红彦、杨重远开除出部队。他还强令谢子长、阎红彦离开部队去上海“受训”。当天还召开了红2团军人大会，推选王世泰为红2团团长。
由于谢子长、王世泰和广大指战员的强烈要求，加上杜衡本人不懂军事，才将刘志丹、杨重远留在部队，令谢子长、阎红彦去上海临时中央“受训”。 刘志丹、杨重远虽然勉强留在部队，但不分配重要工作。刘志丹这时虽没有职务，却以党的利益为重，积极为团长出谋划策，实际参加了战斗的指挥。
1932年12月24日，杜衡又在宜君转角镇（今属旬邑）召开军人大会，宣布中国工农红军陕甘游击队正式改编为红军第26军第2团，并举行授旗仪式。王世泰任团长，杜衡兼任军、团两级政委，郑毅任参谋长，刘志丹任政治处长。为了便于控制部队，杜衡在改编中规定干部必须从班长和战士中选举产生，由政委任命，原陕甘游击队排以上的干部全部被剥夺了被选举权。
面对这种无情打击，刘志丹表现出坚强的党性修养。他心地坦荡，顾全大局，毫不计较个人得失，仍积极协助团长王世泰做好工作，帮助起草了《政治工作训令》和纪律条例，并尽一切可能维护部队的团结，表现出坚强的党性，赢得了部队干部战士的拥戴。遇到战斗，他总是精心拟定作战计划，并协助团长、参谋长指挥战斗。由于他工作出色，干部战士都亲切地称他为“我们的参谋长”。
但是，由于杜衡继续推行“左”倾路线，只讲斗争，不搞联合，主张打倒一切。结果敌人越打越多，根据地越打越小，最后只剩下了被敌军重重围困的照金中心区薛家寨。伤员无处安置，粮食供给不济，情况十分危急。由于杜衡一意孤行、一味蛮干，红26军成立才半年多，几乎就被搞垮了。
刘志丹和他领导的陕甘游击队就是在这样的艰难困苦当中，度过了难忘的1932年，迎来了1933年。这一年当中所发生的一切，既给陕甘地区的武装斗争带来了巨大的损失，也给刘志丹同志的心灵造成了不可磨灭的创伤。但是，刘志丹同志并没有被暂时的困难所吓倒，他创建南梁革命根据地和恢复红26军的决心并没有动摇。
