武德殿發源於日本的警察系統，是練習武道的場所，之後再擴展到城市與學校。臺灣曾是日本的殖民地，統治者自然會引入各種日本文化，以其在殖民地上形塑母國文化，在文化上是如此，在建築上自然也不例外，武德殿就是在此種因素的影響下傳入臺灣。
警察肩負社會安定、人民安全之責，經常必須面對盜匪及不法之徒，因此必須習得防身的武藝以求自保及保護人民，因此武術對維護治安的警察就格外重要與必要。
因此在明治28年(1895)於日本京都成立的「大日本武德會」，其會員以警察為主，其所建的武道場建築，稱之為「武德殿」。
當日本統治臺灣時，日本警察系統就影響到臺灣。因此臺灣的武道文化就由當時的日本警界引入、主導及發展，在警察系統的推動下，當時的臺灣州、廳、郡等都陸續興建起「武德殿」。大正13年(1924)高雄武德殿於湊町四丁目完工，即由高雄警察署管理與使用，即今鼓山區登山街36號鼓山國小後面、中山大學西子灣山洞左側，為日式磚造建築。
日本在全臺各地興建武道館，以提供公務員、警察及學生作為練武場所，男生必須學習柔道、劍道或角力(相撲)，而女生則以射箭為主。並每年在臺灣各地先舉辦武道大會或演武大會，選出優勝者，再集中至臺灣地方本部武德會進行決賽，以發揚武士道的習武精神。
其建築內部主要分兩大部份，東邊為學習劍道區，西邊則是學習柔道區，約可容納一百人，屬當時的警察署管轄，(即今臨海二路與臨海一路交叉處的永光行)。
戰後交由鼓山國民學校代管，並曾權充教職員宿舍，後無人進駐，因而呈現荒廢的狀態。
民國88年(1999)高市民政局審定為古蹟。民國92年(2003)文化局成立後，即積極進行整修規劃設計，歷經一年修復，於民國93年(2004)12月完工，民國94年(2005)4月委託社團法人高雄市劍道文化促進會經營管理，為本市第一座非營利古蹟委外案例，也是全臺第一座以原始功能再利用之古蹟。

資料來源：文化部文化資產局