秦始皇泰山封禅、立泰山刻石的位置，在泰山岱顶泰山石阙南下约18米处的“始皇封禅台”处。
始皇封禅台，原为一小山丘。此台与玉皇庙山门、泰山石阙处在一条南北中轴线上。此处曾出土“去封号碑亭”，亭内东西并立明朝二碑。碑文中有“汉碣秦碑曷其比数”、“此碑立，秦碑不足数”等语。由此可见，明朝所立之碑是要取代业已残破的秦碑，所以将其立在秦碑即泰山刻石的原来位置上。
东汉光武帝封禅泰山时，曾派侍从官马第伯等70人上山视察封禅设施。马第伯在《封禅议记》记载说：“早食，哺后到天门。郭使者得铜物。铜物形状如钟，又方柄有孔，莫能识也，疑封禅具也。得之者汝南人，姓阳名通。东上一里余得木甲，武帝时神也。东北百余步，得封所，始皇立石及阙在南方，汉武在其北。二十余步得北垂圆台，高九尺，方圆三丈所。台上有坛，方丈二尺所，上有方石，四维有距石，四面有阙。”
马第伯所称“天门”，即南天门；所称“木甲”神，即碧霞祠。从南天门至碧霞祠为540米，与马第伯所称“东上一里余得木甲”符合。所谓“封所”，是指“汉光武帝封禅台”的所在地，在今天岱顶玉皇庙山门附近。碧霞祠至此为144米，与马第伯所称“东北百余步得封所”相合。“始皇立石及阙在南方”，是指秦始皇泰山刻石在光武帝封禅台即玉皇庙山门附近的南方。
从正德五年（1510）开始，泰山刻石离开原来的位置。乔宇《游泰山记》说：“稍上，是为东岳庙，摩崖碑在焉。碑高二丈，广一丈五尺，其文为唐玄宗御制《纪泰山铭》，其隶书，其立之年为天宝，遂题名于上。又上，为极高处，有玉皇殿，殿南为始皇封禅碑，即除道至山巅览秦颂功德碑，碑高二丈许，其文秘石套中。”后来，又分别被移至多处。
嘉靖三十七年（1558），泰山刻石移至碧霞祠墙外的玉女池旁，嵌于“斯碑岩”上。王世贞《游泰山记》说：“行可里许为元君祠……其右为御史所栖。后一石，三尺许，刻李斯篆二行。一石池，纵广及深具二尺许，亦曰‘玉女池头盆’也。”“玉女池头盆”，即今玉女池，其西约5米有一巨石，高8米许，其上刻“天柱峰”三字，其下刻“斯碑岩”三字，泰山刻石即嵌于此石上。此时，刻石铭文仅存29字。
万历二十七年（1599）以后，泰山刻石残碣移至碧霞祠东庑壁间。具体移至时间不详。
乾隆五年（1740）碧霞祠毁于火，泰山刻石遂亡。
嘉庆二十年（1815），在玉女池旁搜得残石2块，尚存10字，残碑嵌于岱顶东岳庙壁上。
道光十二年（1832），东岳庙墙坍塌，泰安知县徐宗干“亟索残石于瓦砾中”，令道人刘传业将残石移至山下，嵌于岱庙墙壁中，并写跋记载发现的经过。光绪十六年（1890），残石被盗，后在城北桥下搜到，重置于岱庙院内。宣统二年（1910），泰安知县俞庆澜为防刻石遭风雨剥蚀，在岱庙环咏亭造石屋一所，将泰山刻石及徐宗干的跋和自己写的序共三石嵌于石屋内，周围加铁栏杆保护。
1982年，泰山刻石迁于岱庙东御座内，修筑一座门式碑龛，将以上三石垒砌其中。