抗日战争爆发后不久，上海沦陷，国民党政府迁都重庆，中央研究院也迁往内地。蔡元培因不愿随蒋介石去重庆，改从上海赴香港，准备转赴昆明，主持中央研究院院务。但是到达香港之前，蔡元培刚刚得了一场伤寒病。已经近70岁的老人，面对前面的长途跋涉，十分担心能否安全到达昆明。无奈之下，只好先滞留香港。
1937年12月26日，夫人周养浩携子女也到港，全家在九龙柯士甸道156号租房居住。蔡元培在港期间，除了读书阅报之外，绝无其他消遣。由于怕受人注意，因此很少跨出大门。香港住宅，又很狭窄，三四个房间，便成为他日常活动的小天地。
1938年5月20日，蔡元培应宋庆龄邀请，同港督罗富国爵士等人一道，出席由“保卫中国同盟”及“香港国防医药筹赈会”于圣约翰大礼堂举行的美术展览会并发表演说。这是蔡元培在港期间唯一的一次公开演讲，其意本为公开话别，离港前往昆明或重庆，奈何因身体荏弱不堪，未能成行。
1940年早春，73岁的蔡元培遭逢爱女蔡威廉死于难产的致命一击。蔡威廉这位留洋归国的艺术家，自和林文铮结婚后，一直致力于国立艺专的艺术教学工作，满腹才华和理想尚未来得及施展和实现，就在昆明撒手人寰。她死得很惨，在咽下最后一口气之前还用手在墙上反复疾书“国难，家难……”其撕心裂肺之状令天地为之动容。白发人送走了黑发人，而白发人也将循着女儿的背影飘然而去。
1940年3月3日早晨，蔡元培起身后到浴室去时，在浴室门边，忽然感到一阵头晕，失足摔倒，吐了一口鲜血。于是赶紧找来商务印书馆的一位特约医师朱惠康，朱医生看过后未找出病源。这天晚上，他一宿都未睡好。第二天上午，朱医生过来复诊，认为可能是胃溃疡，因为家里人手不多，照料不便，因此建议送到养和医院去诊治。到了养和医院，朱医师又诊断可能是急性胃溃疡，于是通过文学家许地山找来港大医学院的英籍教授寇克博士，为蔡元培诊治，并施手术。
由于输血设备都在香港大学，蔡元培又被转移到香港大学。输血的过程中，蔡已经陷入昏迷状态。输完之后，他的手足开始缓缓活动，有时两片嘴唇微微翕动，像要开口说话。
此后，蔡元培回到养和医院，已是午夜以后。约至四点多钟，蔡元培的呼吸开始显得很费力。六时左右，口中嘘气已经极为微弱。养和医院院长李树芬和寇克博士虽然先后来到，但到七点左右，两位医师都认为救治无望。九时过后，蔡元培嘘出了最后一口微弱的气息。这位教育家走完了他的一生，享年73岁。
蔡元培先后做过教育总长、北京大学校长、中央研究院院长等高官，然而却一贫如洗、家徒四壁，连一幢属于自己的房子也没有。先生一生位居高官，却始终清廉如水，死后无一间屋，无一寸土，医院药费千余元，加上衣衾棺木的费用，都是由商务印书馆的人代筹的。
9日，中国共产党中央委员会发来唁电，并特派廖承志前往致唁。
10日，灵柩出殡，由北大学生护送，香港各学校及商号下半旗志哀，执绋者五千余人，学校及社团万余人参加公祭，极尽荣哀。蔡元培灵柩初厝东华义庄待运回浙江绍兴故里安葬，但因战事熛起，未能成行，遂移葬香港仔华人永远坟场，“五四”元老、新文化的保姆长眠于香江，墓碑“蔡孑民先生之墓”七字由叶恭绰书写。值得指出的是，他的遗言仅为两句话：“科学救国，美育救国”。
16日，国民政府发布褒扬令，特拨付5000元作为丧葬费用。24日上午，国民党各界在重庆举行公祭，蒋介石参加；下午又举行追悼大会。同日，全国各省市均举行隆重的追悼大会。
1947年5月9日，国民政府发布国葬令举行蔡元培的国葬。
蔡元培病逝，全中国不分政治派别，均表深切哀悼。国民政府发布褒扬令说：蔡元培“道德文章，夙负时望”，“推行主义，启导新规，士气昌明，万流景仰”。
教育部北大在诔词中有“当中西文化交接之际，先生应运而生，集中西文化于一身；其量足以容之！其德足以化之！其学足以当之！其才足以择之！呜呼！此先生所以成一代大师欤？”
周恩来送挽联：“从排满到抗日战争，先生之志在民族革命；从五四到人权同盟，先生之行在民主自由。”
毛泽东特发唁电：“学界泰斗，人世楷模”，同时发动延安各界举行追悼大会，发表悼念文章以示尊崇与纪念。
蔡元培灵柩初移厝于东华义庄七号殡房，以待运回故乡浙江绍兴安葬，因战事迭起，炮火连绵，未能成行，遂移葬于香港华人永远坟场。这位“五四元老”、“中国新文化运动之父”、“学界泰斗”，就此长眠于香江之岸。