1927年10月12日的清澗起義和1928年5月份的渭華起義開始了西北共產黨領導下的武裝斗爭。

1931年5月初，根據中共北方局的指示，山西特委從軍閥高桂滋部、太原兵工廠及陜北特委調來40余位地下黨員和進步青年，在山西隰縣辛莊組建了中國工農紅軍晉西游擊隊第一大隊（簡稱晉西游擊隊），大隊長拓克寬，政委黃子文，副大隊長閻紅彥、吳岱峰，總支書記楊重遠。1932年1月初，劉志丹領導的南梁地方武裝和閻紅彥、楊重遠、吳岱峰領導的晉西游擊隊及其收編的商販武裝陜北支隊在甘肅正寧縣柴橋子村改編為西北抗日反帝同盟軍，總指揮謝子長，副總指揮劉志丹，參謀長楊重遠。

1932年2月12日，這支隊伍在正寧縣三嘉塬細嘴子村整編為中國工農紅軍陜甘游擊隊，總指揮謝子長（后劉志丹、閻紅彥、謝子長），政委李杰夫兼隊委會書記，參謀長楊重遠。12月24日，在宜君縣轉角鎮，紅軍陜甘游擊隊改編為中國工農紅軍第26軍。在中共陜西省委、陜甘邊特委劉志丹、謝子長、習仲勛等領導下，紅軍陜甘游擊隊及紅26軍，經過寺村塬、照金、南梁3個階段，創建了陜甘邊革命根據地。到1935年10月，紅26軍發展到近3000人，游擊隊1000余人。

1932年3月12日，共產黨員劉善忠、共青團員高朗亭等4人，奪取民團步槍6支，成立了中國工農紅軍延川游擊隊。先后更名為西北先鋒隊紅1支隊、中國工農紅軍陜北9支隊、陜北1支隊，隊長劉善忠（后高朗亭、強世卿、白德勝、李勝堂等），政委高朗亭（后楊重遠、李成榮、魏武、任志貞等），在中共陜北特委領導下，開始了陜北的游擊戰爭。1934年初，西北軍事特派員謝子長回到西北，西北革命形勢開始迅猛發展。1934年7月8日，在安定成立了中國工農紅軍陜北游擊隊總指揮部，總指揮謝子長，政委郭洪濤，參謀長賀晉年。1934年9月，成立了中國工農紅軍陜北獨立師。1935年1月陜北獨立師改稱為中國工農紅軍第27軍84師，師長楊琪（后賀晉年），政委張達志。在中共陜北特委劉志丹、謝子長、馬明方、馬文瑞等領導下，紅27軍和陜北各游擊支隊創建了陜北革命根據地（包括神府革命根據地）。到1935年9月，紅27軍發展到2000余人，游擊支隊25個，共4000余人，赤衛隊20000余人，共產黨員20000余人。

1935年2月陜甘邊根據地和陜北根據地一起形成西北根據地，成為土地革命時期我黨碩果僅存的一塊根據地、各路紅軍長征的落腳點及八路軍抗日戰爭的出發點。

1935年9月18日，長征到陜北的紅25軍與西北紅26、27軍合編，成立紅15軍團。軍團長徐海東、政委程子華、副軍團長兼參謀長劉志丹。紅26軍改編為第78師，師長楊森（后田守堯、韓先楚），政委張明先（后張達志、崔田民）。紅27軍改編為第81師，師長賀晉年，政委張達志。

1935年10月，中央紅軍長征到達陜北。11月，紅78師隨同紅15軍團編入紅1軍團，紅81師歸總部直接指揮。1935年12月以后，中央先后把陜北省的游擊隊整編為紅28軍，軍長劉志丹（后宋時輪），政治委員宋任窮。陜甘省的游擊隊整編為紅29軍，軍長蕭勁光（后謝嵩、李仲英），政委朱理治(后甘渭漢)。陜北黃河沿岸的游擊隊整編為紅30軍，軍長閻紅彥，政治委員蔡樹藩。關中特區的游擊隊整編為獨立第1師，師長白志文，政治委員李宗貴。紅27軍84師第3團擴編為獨立第2師，師長王兆相，政委張秀山。由紅29軍一部與豫旺堡、七營、黑城岔等地方武裝組成陜甘寧獨立師，師長姚喆，政治委員黎林。1936年12月，紅81師恢復為紅27軍，軍長賀晉年，政委王平。

抗戰爆發后，紅78師（原26軍）、28軍、獨立第2師和15軍團騎兵團分別編入八路軍115師、120師和129師，東渡黃河到敵后方抗戰；紅27、29、30軍及獨立第1師、第2師、陜甘寧獨立師等其他部隊則編入八路軍留守兵團，保衛黨中央和陜甘寧邊區。