先說開基玉皇宮之沿革：開臺尊上帝，基功鎮臺郡，玉光威四海，皇恩被辰界，宮闕奠府城。開基玉皇宮，肇於荷據時期，建於明鄭時代，歷年迄今己三百餘年；先民諸賢大德之竭盡心力，鳩資捐獻出力，經歲月洗禮歷多方修葺，方有所成。

臺南，為臺灣之啓始地也，居臺島傳承之地位。先民肇建開基玉皇宮崇奉 玉皇上帝，備受萬民崇仰，及達諸神列聖，神威顯赫，佑及萬方，其名不可沒也。

明末，有漳泉人士至臺灣之地尋求發展，出發前至鄉廟求筶恭請 玉皇上帝，王皇三公主娘香火及玉皇四太子木雕神像乙尊，隨身供奉至臺發展，以求一路平安；至臺灣之地，在尖山立居，將香火及神像在尖山之頂，建一天壇供奉，成為臺灣置所奉祀 玉皇上帝之嚆始。

明永曆十五年(西元一六六一年)，出延平邵王鄭成功驅荷登臺，出以今臺南之地為都，出復明開墾，出除在登陸地建鹿耳門天后宮奉祀座艦媽祖外；史曰：天關龜，出地軸蛇，出邑之形勝，出有安平七鯤鯓為天關，出鹿耳門北線尾為地軸，出鄭氏居臺，出因地酷龜蛇，出始建真武廟，出以鎮城邦。另在府城中心最高地-鷲嶺建北極乙座，出奉明朝護佑神-北極玄天上帝。為臺地建官廟之始。

明朝末年，福建泉漳一帶先民至臺灣尋求發展，為求渡海平安，事業興盛，於家鄉恭請「玉皇上帝」、「王皇三公主娘」香火及「玉皇四太子」木雕神像乙尊，隨身供奉來臺，在尖山立居，將香火及神像在尖山之頂，建一天壇供奉。為臺灣置所奉祀玉皇上帝之始。

明朝永曆二十四年（1670年）尖山一帶居民有感於玉皇四太子之濟世神威，遂於出資建廟，尊奉玉皇四太子為主神，廟名為「玉皇太子宮」，同年鄭成功部將李世輝病重，其子李世金（又稱李四舍），聽聞玉皇太子宮靈驗，乃設香案代父祝禱祈求疾病早日痊癒，並發願事後會擴建廟宇。事後，李世輝之病果真痊癒，於是李四舍乃募金銀元九百圓，擴建玉皇太子宮，居民皆稱之為「四舍廟」。

清朝康熙二十七年（1688年），清朝駐臺總兵楊文魁，視察臺灣，有感玉皇太子宮威靈顯赫，乃重修宮殿並加以崇祀。清朝嘉慶五年（1800年），尖山一帶地震，宮內受震害崩壞，加上廟身年久失修，境內檀越許茂盛、陳登生、蔡廷杰、徐玉勳、柯再得等鳩資銀元八百元，大行修廟，並聘請福州匠師雕塑玉皇上帝、玉皇四殿下(玉皇四太子)、玉皇三公主娘之大型軟身神像，並增祀三官大帝、南斗星君、北斗星君、張府天師、虎爺、月下老人等神尊。因尊奉玉皇上帝為主神，改名「開基玉皇宮」。光緒十三年（1887年）續修，並塑註生娘娘、普化天尊、王靈天君神尊供奉。

西元1945年臺灣日治時期，於第二次世界大戰期間歷經戰火，神像暫遷興濟宮。台灣光復後，由當時管理人及信眾發起修建，完竣後回鑾安座，並多次增修改建，直至今日。臺南市政府府城歷史廟宇編號：二十七號。