1936年2月，红军东渡抗日。阎锡山将晋绥军所有七个师的兵力编为四个纵队，沿黄河一线设防阻击。在关上村一战，晋军周原健全军覆没。阎连忙电请蒋介石救援。早想把自己的势力伸向山西的蒋介石，随即答应阎的请求，迅速派嫡系第十三军汤恩伯部、关麟征第二十五师孔令恂部、李仙洲部，渡过黄河入晋。另派三十二军商震部沿正太路赴太原救援，一共十五万中央军。在太原成立了晋、陕、绥、宁四省边区“剿匪总指挥部”，陈诚任总指挥。
中共为了避免内战扩大，回师陕北后发表《停战议和，一致抗日》的通电，号召全国各界人士和国民党政府，停止内战，一致对外，组成抗日民族统一战线。
按道理，这时蒋的十五万中央军应该撤出山西，但蒋仍赖在山西不走，企图趁机削弱阎锡山的势力，进而把阎挤出山西。
阎锡山为了“解除”最大的、最直接的、最现实的威胁的蒋介石在山西的驻军了，不得不与中共以及进步人士进行一定限度的合作。
阎锡山曾说：“在三颗鸡蛋上跳舞，哪一颗也不能踩破”。所谓“在三颗鸡蛋上跳舞”，就是说和走钢丝绳一样，随时都有掉下来的危险。所谓“哪一颗也不能踩破”，就是说他哪一方也惹不起，哪一方也要反对，但又对哪一方也得应付一下，搞点关系。
为争取中共的支持，阎锡山曾表示：只要红军能撤回陕北，他就要使蒋介石的中央军离开山西。他答应中共可以派代表、带电台到太原谈判。
阎认为只要他能打出“联共抗日”口号，取得中共的支持，这样既可以利用中共的力量与威信，动员群众来对日作战，暂保他的全部财产，又可以逼迫蒋不敢干涉山西的“内政”。
实际上，这时的阎锡山是既要联共，又要在暗中防共、反共；既要抗日，又要在暗中和日、亲日；既怕蒋、拒蒋，又要依靠蒋。
为此，阎锡山先于蒋介石提出了“守土抗战”、“牺牲救国”的口号。
同年“九·一八”事变五周年纪念日，阎锡山在太原海子边召开万人大会，宣布：“牺牲救国同盟会”(简称“牺盟会”)正式成立。“赢得”了各阶层进步人士的支持和好评。
牺盟会成立后，在群众中的影响和号召力都很大，报名参加的人也很多，但由于阎锡山的属下竭力反对，受到的阻力也很大，工作并没有完全开展。
为了通过牺盟会发展自己的势力，阎锡山请薄一波回晋。1936年10月下旬，薄奉中共指示，从北平回到太原，以太原绥靖公署主任办公室秘书的名义，到牺盟会任常务秘书，主持牺盟会的日常工作，自此，牺盟会快速发展起来。
“七七事变”爆发后次日，中共发出通电，号召“中国同胞、政府与军队团结起来，筑成民族统一战线的坚固长城，抵制日寇的侵略！”赢得全国人民热烈拥护。
之后，中共向国民党提交了《国共合作宣言》，希望由国民党方面新闻机关早日发表，并派周恩来等同国民政府谈判关于建立抗日民族统一战线的问题。
在中共的呼吁下，蒋介石在庐山召开的各党派第二次谈话会上，宣布对日抗战，宣称“地无分南北，人无分老幼，无论何人皆有守土抗战之责任”，并承认陕甘宁边区政府。
抗战初期，当时由于日军步步紧逼，短短几个月，阎锡山的十几万旧军队，损失了七成，仅剩下两三万人；山西半壁河山陷入日军手中，一些未沦陷的地区，政权也已处于瘫痪状态。
迫于形势，阎锡山为求得自身的“存在与发展”，不得不改变策略，变“防共反共”为“联共抗日”，与中共和进步人士合作，希望利用中共的力量与威信，动员群众对日作战，以维持其政权。
但形势的发展，远远超过他的估计。翌年2月28日临汾失守，阎锡山退到陕西宜川县桑柏村。
为了扶植其统治支柱——旧军，为日后的反共、反牺盟会、反新军在军事上做好准备，他从陕西回到吉县后，于1938年6月上旬，把他的各军、师主要军官秘密召集到吉县古贤村开会，专就统驭方法和加强军队政治工作与配备力量等问题，作了布置。阎锡山把联共抗日路线变成了联日反共路线。
1945年，日本宣布无条件投降后，阎锡山为了利用日军力量，抢夺地盘，抢占太原，继续反共反人民。8月30日，阎锡山在日军的迎接下，回到太原。