四年后，两人位置刚好倒转。当时北京大学建校才18年(1898年京师大学堂建立)，这所“皇家大学”官僚气和衙门气浓厚，教员多是官僚，他们不学无术，学生为了仕途，还是阿谀奉承。
陶希圣先生对那时的北大曾这样回忆：“民国初年，贵族子弟仍然不少，文科那边有一个学生坐自用人力车(洋车)来上课……两院一堂是八大胡同(当时的妓院集中地)受欢迎的重要的顾客。两院是国会的参众两院，一堂就是北京大学——京师大学堂。”
当时，北大的腐败名声，闻者众多，朋友们曾劝蔡元培不要去，担心他“进去了，若不能整顿，反于自己的名声有碍”，然而，他却已下定决心，他在给国外友人的信中这样说：“吾人苟切实从教育入手，未尝不可使吾国转危为安。而在国外所经营之教育，又似不及在国内之切实。”
事实上也是这样，他一直都希望“教育救国”，通过整顿教育达到改良社会的目的。他到任那天的情景，据当时正在北大上学的顾颉刚后来回忆：校工们在门口恭恭敬敬排队向他行礼，他却“脱下自己头上的礼帽，郑重其事地向校工们回鞠了一个躬，这就使校工和学生们大为惊讶”。