小馬隧道原為日治初期，日人政府命阿美族人開挖穿越馬沙林尼山，以暗渠方式引馬武窟溪上游溪水灌溉小馬地區農田，於1929年（昭和4年）完工，稱小馬埤圳（埤圳為日文漢字，亦即水圳）。後來為改善泰源盆地對外交通，日人政府強迫阿美族人繼續用人工將暗渠擴大，成為人車可通行的隧道，1932年完工。戰後被公路局稱為泰源隧道，是臺東縣境內唯一的公路隧道。
成功鎮民認為該隧道位於小馬段，且早年稱小馬埤圳，戰後所改稱的泰源隧道並不妥當。乃積極運作，由耆老王河盛提供資料，鎮民代表會在第17屆第8次臨時會中，通過「隧道應回復正名為小馬隧道」案，函請成功鎮公所辦理。鎮公所順應民意，於2004年10月將該隧道正名為小馬隧道，並在東口左側立碑為誌。
小馬隧道寬約3.5公尺，高3.75公尺、長約230公尺。除兩端在戰後稍作整修、塗以水泥外，其餘均保留人工開鑿痕跡。

資料來源：文化部文化資產局