阿尔山火车站主楼始建于民国26年（1937），是一幢东洋风格的日本式建筑，占地900平方米，主体建筑为两层六顶。除使用砖、木材等常用建筑材料，还使用花岗岩、钢筋混凝土等。主体黄色调，一层外壁周围是用花岗岩砌的乱插石墙，楼顶用赭色水泥覆盖。修筑得十分坚固，并与炮楼连为一体。

民国26年（1937），战火四起，烽烟弥漫，寂静的山林响起日本侵略军的枪炮声。军车运来10个步兵中队、4个炮兵中队和1个工兵队，在阿尔山构筑野战阵地。当时的阿尔山火车站异常繁忙，可谓是满负荷运作。时隔8年，日军在苏联红军强大攻势面前无心恋战，全线溃退，阿尔山火车站成为日军逃亡的中转站。8月9—14日，日军、伪军、日伪家属、留守人员等一批又一批地来到阿尔山火车站，坐上混合列车，带上武器弹药，匆匆踏上艰险的逃亡之路。

民国34年（1945）8月12日清晨，一列由两辆机车牵引的混合列车停在站台边，700余名日军及700余名学生、劳工挤在2节车厢内，其余6节车厢装满武器弹药。人没上完，列车便启动了。苏联红军在空袭阿尔山后立即全线追击，在大石寨，6节车厢的军火轰然爆炸，列车炸翻，倾斜的机车借着惯性滑出四五里路，连车带人一起进入苏军伏击圈。