行政院大廈在日據時期為臺北市役所，臺北的發展在一九二０年為一轉捩點，當年臺北改制為市，因而開始籌設市役所，原先為磚木造，至一九三七年開始興建新廈，至一九四０年底才告峻。利用原城北小學校基地而建，光復後這座建築曾改充為臺灣省行政長官公署，一九四七年做為臺灣省辦公之所，當一九五九年省府遷到南投中興新村之後，才改為行政院。
這是日據後期所見的少數大型政府辦公大樓，每層樓面積都達一千多坪，隨著當時現代建築設計潮流，其設計頗為新穎。平面呈日字型，四周為辦公室，中央為禮堂。中央大樓入口大廳為四層樓，其餘為三層樓。主體為鋼骨與鋼筋混凝土兩種結構，施工者為臺籍林灶先生主持的協志營造廠，落成後頗受讚譽。內側設有迴廊，外側則突出洋臺。平面雖仍為古典的對稱式平面，但造型頗有新意，主入口正立面有一隊巨大方柱，使用簡化的柱頭裝飾。陽臺轉角處作成弧形，強調水平流線形，皆三０年代現代建築常用之建築語彙。原來外牆貼褐色面磚，只有柱子與門亭為白色，與臺北郵局及臺大校舍相近，皆為三０年代為防空作用之所謂國防色面磚。

資料來源：文化部文化資產局