臺灣府城在清雍正三年(西元一七三五年)築造木柵城時，小東門段的範圍為:正東倚龍山寺，設大東門，"木柵由大東門向北，延續到右營廳後，轉東北到小東門，再向正北走，靠近城守營即為大北門。所以小東門的城段，就是介於大東門城與大北門城之間的兩段。
雍正十三年(西元一七三五年)，福建總督郝玉麟在城罔植刺竹一萬七干九百八十三叢作為藩籬，此時的府城仍為木柵。乾隆四十年(西元一七七五年)知府蔣元樞在舊木柵內另建木城，並添建小西門。到了乾隆五十三年(西元一七八八年)，知府楊廷理就原有東南北三面的城址，改建為土城。西面部分因面臨臺江內海，故退縮一百五十餘丈，由於城垣曲直形如半月，叉面向臺江，所以稱府城如「半月沈江」之勢。此時的小東門段已是士垣的結構物。
同治元年(西元一八六二年)與同治十三年(西元一八七四年)，臺灣發生了大地震與暴風雨，土造城垣因禁不住風雨和地震的摧殘，損毀嚴重，幸經觀紳合力搶修，得以完固。乙未割臺以後，因都市發展的需要，城垣被迫拆毀。大正四年(西元一九一五年)，小東門及其旁側的城垣也難逃拆除的厄運。僅存在勝利路上，北起小東錄長約二百公尺，南止於大學錄長約六十五公尺的城垣殘段隱藏在茂密的樹林下。民國五十五年(西元一九六六年)，成功大學收購光復營區校地時，為建造校園圍牆，拆除了南段城垣。

資料來源：文化部文化資產局