而此时，距离预定的开学日期仅一个月的时间了。作为公学的庶务员，姚宏业与同人们互相勖勉，共同进退，呕心竭力，不辞劳怨，一面租赁房屋、添置教具，一面聘订教员、设置课程，筚路蓝缕，从未动摇。
据中国公学早期学生张承槱回忆，“当时组织中国公学，毫无基础，全体同仁，确遭遇极大困难，同情者虽多，而实际援助者除就地向上海总商会会长曾少卿募得数千元外，其他各界，毫无表现，全凭我数百人自己解囊相助，大多数困苦不堪，连自己生活难于维持。经数百人东奔西走，各方张罗，穷数月之力，始稍有头绪，而校址尚为一困难问题。至翌年二月底，始租定越界筑路之北四川路底新靶子路一六〇号至一六五号三层西式住宅六幢，作为校址。每幢租银一百六十两，共计每月须付九百六十两。此项房屋，为李鸿章所有，由外国洋行代为经租，电灯自来水，须另外付款，每一到月，必须付租，否则要迫令迁移”19。
张承槱说，除临马路头一幢楼下两个大房间分作会客室及教员休息室外，其他的大房间均作教室之用。各幢小屋，则作为办公及教职员宿舍，而学生住在校内的并不多，大多数租住在学校斜对面的王家庄。那里距离公学不过百余步，有乡村古老式农民住宅数十家。民房租金依据房间大小，每月每人两三元至四五元不等，经济实在困难的就两人合租一床，分摊不过一元。伙食一般都包在住户家，每月四元。
就这样，在一片萧瑟之中，中国公学竟然奇迹般地如期开学了。
一腔热血化碧波
1906年3月4日，农历二月初十，中国公学在上海北四川路底新靶子路校舍里举行开校典礼。
由于正干事刘棣英赴南京筹款未归，典礼由副干事朱剑及庶务员张邦杰、姚宏业主持。一向关心公学创办事宜并出力甚多的社会名流郑孝胥应邀参加典礼，并现场发表演讲：
中国各省皆办学堂，纯用官场办事，毫无法度，遂成上下相贼之景象。有志之士既为官府所逼，故溃散而之日本；然在日本者八千人，毫无预备，劳神伤财以学无用之日语、初级之蒙学，日人又加以无礼之约束，于是又溃散而归。呜呼，内为政府所虐，外为异族所凌，吾恐天下志士必将心摧骨折，无向学之地，无出头之日矣。今观此公学，居万死一生之地位，而能茹苦含辛，坚持不屈，吾甚哀诸君之遇，甚敬诸君之志，窃愿诸公力守目下共和之法，就平等中选举办事之员，授以权限，明其义务，相率服从，以为天下学界自治之表率，庶几可以内持谗慝之口，外夺强梁之气。诸君勉之！20
言语之间，颇多赞誉，这无疑让焦头烂额、殚精竭虑的中国公学创办者们体味到了些许温暖。郑孝胥演讲结束，台下掌声四起，甚至有人感动泣下。这是辛酸之泪，更是骄傲之泪！
中国公学，终于开张了，但接下来的路，并不好走。
姚宏业等人最初筹划创办中国公学的时候，可谓信心百倍，志在必得。在他们看来，最起码有五个优势可以依赖：一是归国学生人数之多，二是留日学生之后盾，三是上书学部之请求，四是投书商学界巨公之希望，五是舆论之声势。然而，理想毕竟只是理想。很快，残酷的现实考验就接踵而来。
“取缔风潮”刚起的时候，留日学生豪情万丈，积极主张归国办学。当时，上海商界的态度亦是非常热情，“上海商会，亦来电愿尽招待之责，中国商人之爱国热诚，亦自可嘉”。然而，当归国学生真的回到上海筹谋办学之时，这些曾经表态愿意“尽招待之责”的商界名流们纷纷选择回避，少有赞助。
1905年12月，留日学生总会派刘棣英等人致书上海总商会会长曾铸，请其给予经济协助。同时，又上书学部及各省学务处，求将各省派遣学生之官费酌情提取若干以充兴学之经费，然而所有努力终归石沉大海，毫无回应。
两三年后，中国公学高等普通预科甲班学生胡适曾在一篇文章里，感叹姚宏业们所经历的这种艰辛：“列位要晓得，姚烈士们所办的事，原是极合正道的，但是那时普通的一般议论，赞成的人却是很少。有的人说：这是革命党计谋。有的人说：这是少年浮躁之徒的意气用事。这样一说不打紧，把那些上海的大人先生，有名的人物，吓得一些都不敢过问了。列位要晓得，上海的人，虽有这么多，但都是蠢得很的，都是把耳朵来当眼睛的。看见这些大人先生都是这样，哪里还有人敢出来帮助帮助呢！所以那时这一班志士便处于极孤立的地位，无论什么事都不顺手；而姚烈士所任的庶务，尤其难办。”21
原本以为最可靠的办学根基——数千名归国人员，也因为清政府要求返日复课而大为动摇，“三千余人留沪上者不逮十分之一”。这样一来，中国公学的生源自然就大大成了问题。经过公学职员们的四方奔走，竭力动员，最终留在上海进入中国公学的学生仅有260余人。
这260余人来自13个省，其中四川、广东、湖南、河南的为多，占到总人数的六成以上。这些人成了中国公学的首批学生，而后被依照学力程度的不同分配到不同的班级：普通预科两班，两年毕业；中学普通四班，三年毕业；理化专修一班，一年毕业；师范速成一班，两年毕业。
由于层次不一，每班人数各不相同，从二十几人到六十几人不等。学生之间的年龄差距尤其大。从1907年印行的《中国公学第一次报告书》里所提供的学生档案来看，胡适所在的高等普通预科甲班，最小年龄17岁，最大的已是31岁，年龄相差竟达14岁。同一班级学生年龄差距最小的是高等普通预科乙班，最小年龄18岁，最大年龄27岁，相差也有9岁之多。所以胡适曾感慨，“他们的年纪都比我大的多，我是做惯班长的人，到这里才感觉我是个小孩子”。
据胡适回忆，由于中国公学仓促上马，教员配备未能完全跟上，“有好几门功课都不能不请日本教员来教，如高等代数、解析几何、博物学，最初都是日本人教授，由懂日语的同学翻译”。胡适的同班同学朱经农、李琴鹤等，就曾担任过日语翻译。而一些年龄稍长的同学，干脆还兼任起学校的职员或教员，比如与胡适同班的但懋辛就曾担任他们班级的体操教员。
如此艰难境地，姚宏业却矢志不渝，始终将办好中国公学看成是救国的手段，从未轻言放弃。在当时学生胡适的眼里，“我们这位姚烈士，他却处之泰然，一切办器具、聘教员等事，给姚烈士去办，没有一事办不到，也没有一事办不好的”。
等到学校逐渐步入正轨的时候，姚宏业却病倒了。当时，有人劝他到医院去调养调养，但是他总放心不下中国公学的诸多事务：“阁下看我是什么人呵！我活着一日便尽一日的责任，我岂是那种放弃责任的人么？”22
屋漏偏逢连夜雨，船迟又遇打头风。开学不到十天，正当姚宏业等人殚精竭虑、焦头烂额应对学校初创时期不可避免的各种烦难之际，中国公学里又发生了一场令人意想不到的风波。刚刚竖起大旗的中国公学，还未成就大业就面临着四分五裂的尴尬。
事情的发生很突然。
在一次代表会议上，时任中国公学副干事朱剑与对学校事务不满的部分江苏籍学生发生口角，情绪冲突之下，甩了一句狠话：“江苏人闹意见，江苏人皆出。”结果，这句话激起了许多江苏籍学生的不满，认定中国公学有意排斥江苏籍学生，吵着要退学。一时间，双方僵持不下。
当时，校方考虑到学校初立，“不忍操戈同室贻笑外人”，因而一再忍让，希望能够息事宁人。在他们看来，中国公学创立的初衷就是“不分省界”，如今竟闹出排斥江苏籍学生的谣言，真是百口莫辩。
副干事朱剑更是觉得委屈。他本人即是江苏人，岂有江苏人排斥江苏人之理。尽管如此，朱剑还是接受了校方的建议，宣布辞职。但江苏籍学生在朱葆康、高旭等人的领导下，态度坚决，拒绝调停，不仅带人破坏学校会场秩序，而且还公开登报攻击中国公学。最终，50多名江苏籍学生宣布退学，另立门庭，组建健行公学。
江苏籍学生的分裂，对于中国公学对外形象的树立无疑是个极大的损害。本来上海一帮权贵们就抱着看热闹的心情，任凭这些留学生们“胡闹”，认为他们绝不能闹出什么名堂，现在可好，果真应验了他们最初的判断。
更重要的是，当时中国公学正上书上海道台瑞澂，指望其拨款援助，也得到了积极的回应。结果，这一闹，一下子破坏了上海官府对于中国公学的好感，拨款援助一事自然也打了水漂。
在江苏籍学生闹退学期间，作为公学庶务的姚宏业一直“周旋其间，心力交瘁”，但最终以调停失败告终。随之而来的负面效应，更是让原本就已抱病在身的姚宏业“终日戚戚，如负重疚”，痛感“东京之现象既如彼，内地之悲观又如此，而半生复仇光汉与此次归国对外之种种大愿，终莫得遂”23，于是逐渐萌生了像陈天华那样以一己之牺牲换取国人警醒的念头。
1906年4月5日，阴历三月十二。这天晚上，姚宏业踌躇再三，走进了好友、中国公学会计员王敬芳的住处，一吐胸中块垒，谈及学校繁杂事务：“吾不意归国结果如是如是！夫中国公学者，中国人公有之学校也。今若此，中国前途，吾何望乎？吾何望乎？”24
王敬芳见此情状，知他一时愁绪萦怀，难以自拔，便劝他出去走走散散心。刚巧第二天是清明节，中国公学里很多友人相约去华龙寺游玩。王敬芳便邀约姚宏业一道前往。姚宏业口头上答应了下来。可当友人们出发前去喊他时，他已离开了寓所。
孰料这一夜后，姚宏业便不见了踪影。
一连七天，杳无音信。姚宏业的家人及中国公学的同人们四方打探，仍是没有一点眉目。1906年4月13日(阴历三月二十日)，报上忽然登出一则消息说，黄浦江水巡捕捞出一具尸体，是一身着西装的中国人。王敬芳、张邦杰等人心知不好，当即赶往英工部医院认尸。
当时天色已暮，英人拿出两枚图章请王敬芳、张邦杰等人辨识。图章一文“剑生”，一文“竞生启事”，可知死者便是姚宏业无疑。王敬芳、张邦杰等人又赶忙去查看尸身，只见那尸身已膨胀模糊，不可辨识了。见此情形，同人们掩面而泣，不可抑止。
第二天，中国公学召开追悼会，在整理姚宏业遗物时，发现一封事先写好的遗书，长达两千四百余言，大约写于其投江前夕。在这份遗书里，姚宏业言辞慷慨，声泪俱下，道尽沪上开创中国公学的苦衷，纵论中国公学与中国前途的关系，悲忆中国公学走过的艰难历程，直言“我之死，为中国公学死也”：
自(中国公学)开办以来，学生已二百余，共集十三省人矣，学科虽未十分完善，然非中国内地学堂之所及，此则我之所敢断言者也。而海内热心赞助者，除郑京卿孝胥等数人外，殊寥寥。求助于政府无效，求助于官府无效，求助于绅商学界又无效，非独无效，且有雠视我公学、诽谤我公学、破坏我公学者。我同志等虽拮据呼号，然权轻力薄，难动听闻。噫！无米之炊，巧妇不能，中国公学之前途真不堪设想矣。嗟夫！嗟夫！岂我辈之诚心未足感人耶？岂我中国之人心尽死耶？不然何以关系重大如我中国公学者，犹赞成者少，而反对者多也。