《史記·商君列傳》載：秦孝公十二年(前350年)，商鞅進行第二次變法，秦國頒布了一批旨在封建變革的法令，其中一項重要內容就是把都城從櫟陽遷往咸陽，商鞅“作為冀闕宮廷于咸陽，秦自雍徙都之”。

此處“宮廷”即秦國首都咸陽城中的王宮，自秦國統治者遷都咸陽后，它一直為秦的歷代國君的大朝之地。秦始皇時在渭水南岸修筑新朝宮——阿房宮，就是想取代渭北的朝宮——“先王之宮廷”，這處作為王宮或皇宮使用的“宮廷”之名即“咸陽宮”。歷代秦王和秦始皇接見各諸侯國使臣、貴賓，為皇帝祝壽舉行盛大國宴，與群臣決定國家大事都在咸陽宮中進行。因此《三輔黃圖》稱咸陽宮“以則紫宮，象帝居”。

秦孝公十二年(前350年)，秦國遷都咸陽，“秦孝公筑渭城，名咸陽宮。有四皓祠、安陵城、杜鄠亭、竇氏泉、周文王祠。”商鞅首先在城內營筑冀闕，以后歷代秦王又增建了許多宮殿，至遲到秦昭王時，咸陽宮已建成。

《史記·秦始皇本紀》記載，秦始皇統一全國的過程中，“每破諸侯，寫放其宮室”，即秦國每滅掉一國，都要在在咸陽塬上仿建該國的宮殿，擴建皇宮，渭水北岸建成了各具特色的“六國宮殿”，“冀闕”、“甘泉宮”、“上林苑”等宮室145處、宮殿270座。各宮之間又以復道、甬道相連接，形成繁華的大都市。諸多典籍文獻都記載了咸陽宮的規模和盛況，《漢書》載：“秦起咸陽，西至雍，離宮三百”;《史記》云：“咸陽之旁二百里內，宮觀二百七十”。

秦末，項羽攻入咸陽，屠城縱火，咸陽宮大半夷為廢墟。

漢帝國建立后，定都長安，在政治體制、經濟制度、社會文化等各方面“漢承秦制”，反映出漢王朝對秦的繼承關系，這種繼承關系反映在秦漢社會的方方面面，在皇宮的建設中也得到了充分體現。漢長安“長樂宮”，是由秦的“興樂宮”改建而成，“未央宮”為秦“章臺”改建，“桂宮”為秦“甘泉宮”改建。

北周時期，咸陽宮仍然頗具規模，《周書·帝紀第七》記載：“壬午，幸(中)山祈雨。至咸陽宮，雨降。甲申，還宮。令京城士女于衢巷作音樂以迎候。”

唐代，李吉甫編纂的地理總志《元和郡縣圖志》記載了當時咸陽宮的狀況：“渭水南有長樂宮，渭水北有咸陽宮……”

唐末，由于軍閥混戰，咸陽宮隨著長安城的大規模破壞最終完全毀滅。