抗日战争时期，中国共产党在西北开创抗日根据地，晋绥军区的领导机关就设在偏关。白庆元积极参加减租反霸斗争，被群众推举为石窑村主任。他为八路军征集军粮、军需，输送给战斗在偏关山区的革命武装部队。并受共产党的指派，借机摸清敌军情报，给山上的八路军通风报信，接受打入日伪俱乐部的任务。白庆元以八路军密探的嫌疑被日本侵略军抓捕，其妻子串联偏关附近几十个村的四五百人进城，在日本宪兵队门前请愿，才得以释放。在日伪的征粮问题上，白庆元带领村民同日伪警察进行针锋相对的英勇斗争。

在党的培养教育下，民国31年（1942）11月加入中国共产党，担任赫家山行政村村主任兼党支部书记。民国33年（1944）冬，晋绥军区号召党员到白区开展地下工作，白庆元踊跃报名。不久，到偏关县城的塞北分区，受到政委高克林的鼓励。第二年，白庆元被调到区抗联从事青年工作。