！转眼沧桑又一年，怜余后死亦凄然。
九原休道人情薄，老友吞声送纸钱。
——视同学茹怀西之柩
！于右任逝世后，遗体在荣民总医院太平间的冰柜里停放了一周。其间，蒋介石命张群、严家淦、李嗣璁、谷凤翔、王宗山等五人组成治丧委员会。17日上午，张群、严家淦、莫德惠、蒋经国等人来到荣民总医院的太平间，于的遗体随即入殓，他身边的工作人员将其生前用过的手杖和眼镜，放在他的身旁，还有一顶呢帽，这是他最后带走的全部东西。张群等人三鞠躬后，遗体运上灵车，闻讯赶来的医生、护士以及可以走动的病人站满了医院的草坪，向这位参加过辛亥革命的元老作最后的告别。
扎着松柏的灵车，缓缓驶向新落成的台北市殡仪馆。上午9时开始公祭，当天收到的挽联挽幛约4000余件，花圈300余只，花篮1500余个，唁电150余封，各界人士前往吊唁和瞻仰遗容的约3万余人。蒋介石除致祭外，还送了“耆德元勋”挽匾一方。中坜私立复旦中学的师生150人大清早乘长途专车赶来，他们身穿蓝夹克衫、黄咔叽裤的校服，左臂佩戴着黑纱，举止肃穆，队形整齐，站在大厅里为这位复旦的创办人守灵。
由于报纸上发表了于右任的“葬我于高山之上兮，望我大陆”的遗歌及日记，民间对其卜葬之地极为关切。有一位姓江的女士愿将其夫遗留的阳明山右侧高山捐献出来，五股乡的村民亦愿捐出观音山硬汉岭山坡地十余坪，供右老卜葬。经过复勘，最后选定淡水镇光明里海拔七百余米的八拉卡为墓园。（所谓“八拉卡”，因从山脚步行至该处须登一百六十余步，闽南话“百六脚”读若“八拉卡”。）
墓地选定后，于1965年3月14日动工，7月完成。墓园位于台北阳明山至淡水镇之间，坐南朝北，面向大陆，倚山而建。墓前有墓道，建有石牌坊两座，为菲律宾和新加坡的华侨所捐建。前门牌坊上横题“日月其心”四字，它的四个柱石上分别题写：“西北望神州，万星风涛接瀛海；东南留圣迹，千秋豪杰壮山邱”、“霁月光风，顶天立地；民胞物与，继往开来”。牌坊背面柱上，由孔子后裔孔德成题字，各为：“革命人豪，耆德元勋尊一代；文章冠冕，诗雄草圣足千秋。”“海气百重开，终古有灵飞太华；国殇高处葬，此山不语看中原。”
从这座牌坊顺山径上坡，墓园在望，占地约120坪。墓园右后，有宫殿式雕梁八角亭一座。全园陈设，均由观音山及大屯山上的岩石所砌成。约25米高的墓园，共130级石阶，正门左右有10米高的石柱华表各一座，再上一层，有石狮二尊，再上去即墓场，墓前刻有“于右任先生墓”六个大字，系集王羲之的行书而成。后壁为深绿色大理石，刻有于右任墓表，由张群撰文，谢冠生书写。再上行为墓碑，“监察院长于公右任之墓”由蒋介石所书。
站在墓前向西眺望，近处为台湾海峡碧波涌涛，远处云烟氤氲的彼岸为大陆，山脚下则是淡水河口平原，其左为淡水，其右为小基隆。一代国民党元老、爱国诗人、元老记者、当代草圣，由于人为的阻隔，生不能骨肉团聚，死不能安息故土，只能长眠于斯，隔海相望，悲夫！