西元1908年，一場臺灣縱貫鐵路全通的慶賀儀式之緣由，因而有著博物館設立之規劃。原初的臺博館（即臺灣總督府博物館）並非位於公園的現址內，而是位在今日國防部大樓的所在地。西元1915年，兒玉總督暨後藤民政長官紀念館竣工，旋即供作博物館所使用，原館建物則改為臺灣總督府圖書館之用。但此建物已在太平洋戰事的爆發下，毀於當時的美軍空襲。原有的德式建築風貌，於今只能在影像中還原，殊為可惜。臺博館成立至今已具百年歷史，而其經典的建物外貌，同為眾人所熟悉。