大山火車站興建於日據時代大正年間（民國十年）至今已有八十餘年歷史，它屬鐵路海線火車站草創和風式建築，在台灣鐵路文化史上已不多見，在日據時代取當地地名為站名，稱為「大山腳驛」光復後，地名改為大山里，車站才更改為「大山火車站」，大山火車站最大的特色為日據時代的和風式建築，蓋的是「歐山式屋頂」，而兩邊有落水波，双層突出的屋簷可遮陽，加上建築全部木造，窗戶門檻都是土木杉建造，尤其特殊的「編泥牆」做為牆壁，而牆壁內以竹子，黃泥，稻草，石灰等攪拌而成，到目前為止牆壁的「編泥牆」仍然完好，形成一大特色。在早期往來於大山竹南間的挑擔菜販（以地方特產西瓜、地瓜、鹽瓜、芥菜…）尤其在西瓜盛產期，月台上「西瓜擔」更是蔚為奇觀，而隨著農業社會的漸漸沒落，往日繁榮的景象只留在人們的腦海中，大山火車站亦因業務清淡，於民國80年改為簡易車站。民國93年經苗栗縣文化局審查通過列入苗栗縣第8座值得保存之歷史建築。
註：在挑擔菜販全盛期，菜擔與菜販一樣亦須購票（以重量計）方可上車，菜擔若未購票於下車出站時將會被罰款。