这些日子，天一直绵绵不断地下着雨，那些搜山的敌军见这些日子一直没有动静，就真的撤了。刘志丹已经听不到山下的枪声，晚上也没有火把的亮光，知道敌人真的是撤了，就在一个下雨的晚上，走出了自己藏身的那个山洞，向山下走去。谁知因为这些日子一直在山上，挨饿淋雨，体力已经严重透支，身子虚弱得几乎站都站不起来。但是，他还是在黑暗中，一个人摸索着朝山下走去，结果脚下一滑，就从一个险峻的高崖上滑了下去，摔成了重伤。幸好在滑下去的时候，被悬崖上的一棵大树挡住了，要是直接摔到了悬崖下面，他就没命了。
刘志丹痛苦地躺在那棵大树边，一边喝着山上冲下来的雨水，一边在原地休息。等到雨停了的时候，他又渐渐地恢复了力气，才艰难地沿着悬崖爬了上去，又继续往山下走。就在这时，刘志丹终于遇到了一个红2团的战士，才被他搀扶着下了山，在一个山村里，和失散的王世泰、曹士荣等人会合了。原来那个战士就是王世泰等人派到山上，寻找那些失散的红军战士的。刘志丹这时才知道，那些随自己一起出生入死的战士，差不多全部牺牲了。
后来在渭南、华县党组织的帮助下，刘志丹化装成游乡小贩，担着一副货郎担子，渡过渭河，爬山越岭，一直向陕甘边根据地走去。一路和刘志丹做伴和照应他的，就是原来那支晋西游击队的政委黄子文，和黄子文那个在北平搞地下工作的妻子李胜云。黄子文夫妇在北平获救后，党组织又把他们派到了陕北工作，于是他们就和刘志丹一同回照金根据地去。
刘志丹和黄子文夫妇等人一同回照金时，一路上真是把头提在手里走，随时都有被敌人抓走、掉脑袋的危险。但是刘志丹等人一路上始终坚持不丢掉武器。他们把货郎担子分做两层，上层放货物，下层放武器，只要一遇到情况，他们就随时准备献出自己的生命。历尽艰难险阻，刘志丹他们终于在1933年10月4日，带着几支驳壳枪回到了照金根据地。这一次经历，让刘志丹进一步认识到，路线斗争的复杂性和残酷性。
就在1933年夏天杜衡命令刘志丹和红26军红2团南下的时候，全国的革命形势又发生了新的变化。由于日本帝国主义侵入华北，全国掀起了轰轰烈烈的抗日救亡运动，察哈尔民众抗日同盟军宣告成立。这时，江西的中央红军胜利粉碎了国民党军对中央苏区发动的第四次“围剿”，川陕的红四方面军创建了川陕革命根据地，还有红25军也在陕南创建了鄂豫陕根据地，全国的革命势力在日益壮大。
抗日救亡运动的高涨和各路红军取得的胜利，推动了陕甘边革命斗争的发展。在中共陕西省委领导下，1933年7月21日，杨虎城部骑兵团团长王泰吉（中共早期党员）率部在耀县通电起义，成立“西北民众抗日义勇军”。起义军受挫后，又与新成立的耀县游击队和其他的一部分农民武装会合起来，也先后来到了照金根据地，从而壮大了在艰苦环境中坚持斗争的照金根据地的武装力量。
1933年8月14日，中共陕甘边特委在照金陈家坡召开党政军联席会议，批判了分散红军的错误主张，通过了成立陕甘边红军临时总指挥部，统一指挥革命武装力量，深入陕甘边地区活动的方针。会议任命王泰吉为总指挥。指挥部下辖红四团（原渭北游击队一大队）、西北民众抗日义勇军第三路、耀县三支队。从此，照金革命根据地开始摆脱“左”的路线，回到正确的革命路线上来，根据地也在进一步地发展壮大。
两个月以后的10月4日，九死一生的刘志丹终于历尽艰辛，从南山脱险回到照金革命根据地。刘志丹回到照金后，马上被任命为陕甘边红军临时总指挥部参谋长。他虽然受到了不公平的待遇，但是并没有因此而灰心丧气，更没有产生怨恨情绪，而是一切从革命的大局出发，立即开始了红26军的重建和恢复工作。刘志丹为了革命事业，从来都是任劳任怨，忍辱负重，千方百计地维护党内的团结，从而表现了一个共产党员对党对人民革命事业的无限忠诚和极强的党性原则。
回到照金后，刘志丹一边进行重建工作，一边认真总结红26军南下失败的教训。他对习仲勋说：“这次我们又上了机会主义的大当，又吃了一次大亏！”当习仲勋向他汇报了陈家坡会议的情况后，刘志丹兴奋地说：“这就好了！陈家坡会议总算清算了‘左’倾错误，回到正确路线上来了。现在需要把部队集中起来，统一领导，统一指挥。我们重新干起来，前途一定是光明的。”
由于红军集中指挥，运用灵活的斗争策略，很快就取得了一系列胜利。红军的胜利，使国民党陕西当局十分惊慌，急调四个正规团和三原、耀县、淳化等6个县民团共6000余人，发起对照金根据地的进攻。红军临时总指挥部分析敌情，认为敌人“进剿”兵力较大，不宜在狭小的根据地内与其周旋，要粉碎进攻，必须转移到外线作战，深入敌后打击敌人。于是决定留游击队坚持内线斗争，主力红军北上。10月12日，刘志丹和王泰吉率红军北上。主力红军北上后，在叛徒陈克敏的带领下，杨虎城部特务团攻克薛家寨，照金苏区陷落。18日，主力红军在游击队的配合下，一举攻克敌人守备薄弱的甘肃合水县城，毙俘200余人。
10月下旬，刘志丹、王泰吉率主力红军在庆阳三十里铺消灭了当地民团，接着在合水毛家沟门，击溃国民党军赵文治部，歼敌200余人。三战三捷，重挫了敌人的锐气，大振了红军声威。此后，部队继续在合水、庆阳一带游击，接连获得胜利。
11月上旬，中共陕甘边特委和陕甘边区红军临时总指挥部，在合水包家寨召开联席会议，根据刘志丹的建议，总结了以往武装斗争的经验，并讨论了部队改编、根据地建设和行动方针等问题，决定撤销陕甘边红军临时总指挥部，恢复中国工农红军第26军，先成立红42师，王泰吉任师长，刘志丹任参谋长，高岗任政委，黄子文任政治部主任。42师下辖第三团和骑兵团，全师人枪500余。并决定建立师党委，书记杨森。会议鉴于红军暂时撤离照金根据地，部队在无后方的情况下，连续作战十分不利，为坚持和发展革命武装，决定开辟以南梁为中心的新的革命根据地，同时建立三路游击区，成立第一、二、三路游击总指挥部（第一路以安定为中心；第二路以南梁为中心；第三路以照金为中心），红26军居中策应。
南梁位于陕甘两省交界处庆阳境内，地处桥山山脉中段大梁山麓，方圆百余里，境内山峦起伏，森林茂密，沟壑纵横，地形复杂，便于开展游击战争。同时，这一带也是刘志丹、谢子长早期从事兵运活动的地方，群众基础很好。境内之敌多为小股地主武装，战斗力较弱，有着开展游击战争、建立根据地的有利条件。会后，刘志丹和王泰吉为完成建立以南梁中心的陕甘边根据地的计划，分兵两路积极扫荡反动民团。
11月中旬，红42师挥师南下，在宜君杨家店子歼灭国民党86师511团一个连，击毙连长李文杰。下旬消灭了荔园堡张廷芝部新兵营60余人，击毙营长梁邦栋，接着又在二将川消灭了赵富奎民团。12月中旬，红3团和骑兵团再次南下，占领正宁南邑后沟，收缴了民团部分枪支。此次行动为建立南梁根据地打下初步基础。随后，部队利用战斗空隙，分兵发动群众，以连为单位，分别到平正川、太白川、白马庙川、二将川一带，打土豪分粮食，在南梁附近农村相继建立起农会组织，并建立了1000余人的赤卫队。
1934年1月上旬，红42师返回合水连家砭。因王泰吉请求去豫陕边做兵运工作，师党委决定刘志丹任师长，杨森任政委。2月25日，新的陕甘边区革命委员会成立。红军和根据地的迅速发展，引起了国民党当局的极大震惊。陕甘边革命根据地的中心区域转移到南梁地区后，国民党对陕甘边根据地的“围剿”重点也由南向北转移，多次发动对南梁苏区的进攻。
