中華人民共和國主席的設立大致可分為四個階段：即1949年中華人民共和國成立至1954年第一部《憲法》的頒布，此時只有中央人民政府主席一職；1954年國家主席的設立至1975年第二部《憲法》對國家主席的廢除；自1975年國家主席在《憲法》上的缺位至1982年第四部《憲法》對國家主席的恢復；以及1982年至今國家主席制度的穩步發展時期，[12]其中在80年代至90年代初由資歷深厚的中共元老擔任，至90年代初國家主席開始由具有實權的中共中央總書記兼任，在職位本身未變的情況下其實際地位職權發生了變化。
建國初期
中華人民共和國建國至1954年行憲之間，在國家機構體系中，沒有設置專門的國家主席，行使國家主席職權的國家機關是中央人民政府委員會。中央人民政府委員會設主席1名（中央人民政府主席），副主席6名，委員56名，秘書長1名。中央人民政府主席主持中央人民政府委員會會議和領導中央人民政府委員會的工作，在國家政治生活中發揮著重要作用。但中央人民政府主席不是一個獨立的國家機關，名義上不是國家元首，而只是中央人民政府委員會的組成人員，不過在實際上主席行使了一部份屬於國家元首的職權。因此，在中華人民共和國建立至1954年9月，中央人民政府主席實際上被視為國家主席的前身。
1954年憲法
1954年3月23日，在中華人民共和國憲法起草委員會第一次會議上，中共中央主席毛澤東在解釋為什麼要設國家主席時說：「為了保證國家安全起見，設了個主席。我們中國是一個大國，疊床架屋地設個主席，目的是為著使國家更加安全。有議長，有總理，又有個主席，就更安全些，不至於三個地方同時都出毛病。」[13]憲法起草委員會的成員對於國家主席的職權問題進行過多次討論，他們曾設想將主席的權力定得低一些，超脫一點，讓主席只相當於「半個伏羅希洛夫（時任蘇聯最高蘇維埃主席團主席，蘇聯名義上的國家元首）」，「主席可以提出建議，建議不起決定作用，人家願理就理，不理拉倒，毫無辦法。」但是，這並不是意味著主席什麼事情也不干。因為主席還可以「擔任國防委員會主席」，「在必要的時候召開最高國務會議」[14]。
1954年9月召開的第一屆全國人民代表大會第一次會議制定了第一部《中華人民共和國憲法》。《中華人民共和國憲法》規定，在全國人民代表大會之下設立常務委員會和中華人民共和國主席，取消中央人民政府委員會，國家主席是政治體制中一個獨立的國家機關，既是國家的代表，又是國家的象徵。同時第一部《憲法》還對國家主席的產生、任期、地位和職權等一系列問題予以明確的規定。
1954年至1965年，中華人民共和國的主席制度基本上正常運轉。1954年9月至1959年4月，毛澤東和朱德分別擔任國家主席和副主席。毛澤東在任期屆滿後不再連任國家主席，但繼續擔任中共中央主席和中共中央軍委主席的職務。1959年和1965年，中共中央副主席劉少奇兩次當選為國家主席。在1954年至1965年期間，國家主席根據全國人民代表大會及其常務委員會的決定，公布了大批的法律法令，多次召開了最高國務會議，接見外國使節，並進行了其他許多有關的職務活動。
文化大革命期間，時任國家主席劉少奇在1968年10月召開的中共八屆十二中全會上被「撤銷其黨內外一切職務」，由於沒有召開全國人大會議，該罷免案屬於違憲[15][16]。1980年2月召開的中共十一屆五中全會通過了為劉少奇平反的決議，恢復其名譽[17]。1968年至1975年間，國家主席長期處於空缺狀態，先後由國家副主席（宋慶齡和董必武二人）和代主席（董必武一人）代理職務。
缺位和廢除
主條目：中華人民共和國主席存廢之爭
劉少奇死後，中國共產黨主席毛澤東有意廢除國家主席一職，但其法定接班人林彪及多數中央領導人均不同意，甚至為國家主席的存廢，而引起嚴重爭執及後來的九一三事件[18]。
1975年1月17日，第四屆全國人民代表大會第一次會議通過了中華人民共和國成立後的第二部《憲法》。《七五憲法》正式取消了國家主席的建制，改由全國人大常委會行使國家元首職責。1978年3月5日，第五屆全國人民代表大會第一次會議通過了中華人民共和國成立後的第三部《憲法》。《七八憲法》仍然堅持不設置國家主席。不過，1978年《憲法》把1954年《憲法》所規定的由國家主席行使的一些職權，改為由中國共產黨中央委員會和中央委員會主席行使，包括：提名國務院總理及統率全國武裝力量。另外，接受外國使節；根據全國人民代表大會或者全國人民代表大會常務委員會的決定，公布法律和法令，派遣和召回駐外全權代表，批准同外國締結的條約，授予國家的榮譽稱號的重要職權，改為由全國人大常委會委員長代表全國人大常委會行使，而委員長在當時被視為國家元首。
1982年憲法
國家主席與其它國家機構的關係
1982年12月4日，第五屆全國人民代表大會第五次會議通過了中華人民共和國成立後的第四部《憲法》，即《八二憲法》，在國家機構一章中恢復關於中華人民共和國主席的規定，重新設置國家主席、副主席職務[19]，但取消了《五四憲法》中賦予國家主席的兩項職權，包括召開最高國務會議和擔任國防委員會主席，失去了憲法賦予的行政參與權、立法提案權和名義上的軍事統帥權，也不再設立作為國家主席辦事機構的中華人民共和國主席辦公廳，國家主席成為虛位元首[20][21]。在八二憲法審議過程中，鄧小平指出：「還是要設國家主席，有國家主席代表國家比較好，但是對國家主席的職權可以規定得虛一點，不要管具體工作，不要干涉具體政務。」[22]
根據《八二憲法》的規定，國家主席沒有實際權力，但歷任國家主席均由中共中央政治局委員以上級別的高級黨員擔任，其實權來自同時擔任的其他職務。自江澤民開始，國家主席與中共中央總書記和中央軍委主席三職由同一人擔任而握有實權，胡錦濤、習近平也承此慣例。雖然憲法上國家主席沒有權力，但作為中華人民共和國國家元首（憲法沒有明確規定）[23]，對外的最高代表，縱觀歷任人選，即使不是由中國共產黨最高領導人兼任，也是由黨內舉足輕重的人物擔任。
1983年6月，中共元老李先念和烏蘭夫分別當選國家主席和副主席。1988年，中共元老楊尚昆和王震接任國家主席和副主席的職務。1982年《憲法》雖於1988年4月、1993年3月、1999年3月、2004年3月和2018年3月經過了五次修正，但每次都繼續維持國家主席、副主席的設置，從而使國家主席制度得到確立。
隨著中國進行改革開放，對外交流不斷增加，領導人外訪和接待外賓的次數也越來越多，在楊尚昆的任期屆滿後，當時的中共中央總書記、中央軍委主席江澤民接任國家主席一職，從此共產黨的最高領導人兼任國家主席以獲得國家代表的身份開始制度化，現任中共中央總書記習近平在胡錦濤卸任國家主席後也承繼這「三位一體」的慣例。國家主席職務讓最高領導人有了代表國家的身份，在國際上進行元首外交、國事訪問和出席國際會議等國事活動。[24]
2018年3月11日，第十三屆全國人民代表大會第一次會議通過的憲法修正案刪除了國家主席連任不得超過兩屆的任期限制，不過沒有增加任何權力，其「虛位元首」的性質不變[25]。
2023年3月10日，習近平在十四屆全國人大一次會議上再次當選中華人民共和國主席，是中華人民共和國歷史上第一位任期超過十年、開展第三個任期的國家主席[26]。