高雄市立歷史博物館原為日治時期高雄市役所第二代官廳，昭和13年(1938)動工，昭和14年(1939)5月完工，9月16日高雄市役所正式進駐辦公，完全取代位於湊町(今哈瑪星)的第一代高雄市役所(位於今鼓山區代天宮現址)，這也意味著今日鹽埕區已經取代哈瑪星而為高雄市的政治中心。
戰後，該建築續由高雄市政府使用。民國81年(1992)市府搬遷至苓雅區四維三路2號新建之「合署辦公大樓」，舊市府建築始完成階段任務。市府搬遷後，鑒於舊市府為歷史性建築物，經市府規劃為高雄市立歷史博物館，於民國87年(1998)10月25日正式開館，並以保存發揚高雄地區歷史文化為工作目標。
該建築是由清水組(大野米次郎)設計監造，為一興亞帝冠式建築，樓高四樓，主要建材為鋼筋混凝土與面磚等，外觀顏色採用所謂國防色系的淺青色，屋瓦則為類似軍用鋼盔的暗綠色。一樓大門設有門廊，是正式的公共建築作法，中間主體建築狀似「高」字，四樓塔樓空間位於建築物最高處，具有良好的瞭望功能。

資料來源：文化部文化資產局