历史上有两个甘泉宫。一个是渭河南边的秦代甘泉宫（秦太后多居于此），建于秦惠文王时期，另一个是渭河北面的汉代甘泉宫（汉仅次于长安城重要场所），汉武帝经秦林光宫改建而成，而林光宫为秦二世所造。“宣太后诱杀义渠王于甘泉宫”（《后汉书·西羌传》），宣太后执政期间多居于此宫。《史记》记载“秦王乃迎太后于雍而入咸阳，复居甘泉宫。”“作甘泉前殿，筑甬道，自咸阳属之。”同时记载，始皇三十五年，大朝设在甘泉宫；秦二世居住甘泉宫，并“居禁中”、近妇人，“在甘泉，方作觳抵优俳之观”（《史记·秦始皇本纪》）。

秦惠文王时期，秦国中心逐渐转移到渭河南边的章台宫，”则诸侯莫不西面而朝于章台之下矣”(《史记·苏秦列传》)。秦惠文王不仅扩建了章台宫，还建造了兴乐宫、六英宫、甘泉宫（南宫）。

因为甘泉宫位于章台之北地势平坦、开阔 西靠氵皂河亲近水源、生活起居便利，宣太后当上太后后便以此为寝宫，并曾在这里与义渠王生下两子，最后将义渠王引诱到这里将其杀之。

宣太后之后秦太后大多居住于此。

秦始皇生母赵姬长时间居住于此。史记记载赵姬曾在此与嫪毐私通，被秦始皇发现，秦始皇本想把太后赶出甘泉宫，因为大臣求情才让太后复居甘泉宫。 公元前212年，秦始皇作甘泉前殿，筑甬道，自咸阳属之。

项羽进入咸阳后火烧咸阳宫室，甘泉宫变为废区。

刘邦建国后在甘泉宫基址上建造桂宫，为嫔妃居住的豪华宫殿。

自汉以后，新莽、东汉（献帝）、西晋（愍帝）、前赵、前秦、后秦、西魏、北周、隋都以此为都桂宫（甘泉宫），一直在使用。

唐代重修了桂宫（甘泉宫），直到唐末桂宫（甘泉宫）才毁于战火。

经考古勘探，桂宫平面呈长方形。南北长1800米，东西宽880米，周长5300米。在宫城内南部中间有高台建筑，夯土台基仍高出地面11米。但在东北角有大量秦封泥的出土。