日本著名政治家，明治元勋伊藤博文1882年认为选拔官吏，要在全国范围内挑选人才。有人向伊藤介绍说德国的铁血宰相俾斯麦采用的方法是在采用国立大学法科毕业生再经过考试的方法来挑选官吏，这样就使得全国各地的人才都能被公平地选拔出来。
　　伊藤博文觉得这主意不错，就干脆让人专门提交了一份法国官僚制度的调查报告上来，再加上当时明治政府请来的法国人顾问波瓦索纳德明确地对伊藤博文说靠法学校或者医学校是无法培养政治家和行政官吏的，只有按照巴黎自由政治学校的方法设立专门的政治学校才行。这就使得伊藤博文产生了一个让“官吏应该从‘大学卒业士’中任命”的想法。
　　日语“卒业”的意思就是“毕业”，“大学卒业士”就是大学毕业生，但伊藤博文所说的还不是当时已经存在的“大学”，他是想弄一个全新的大学，也就是所谓“帝国大学”。
　　1886年，第一次伊藤博文内阁时，伊藤博文主持将本来由文部省主管的东京大学和工部省主管的工部大学校合并成立了一个由法科、理科、文科、工科和医科这五个分科大学所组成的“帝国大学”， 4年后的1890年之后又将东京农林学校并入，在帝国大学内增设了农科大学，来专门培养日本的最高级国家官僚。
　　这个“帝国大学”的成立是明治政府在发展教育方面的一个重要里程碑。
　　明治5年（1872年），刚成立的明治政府就参照法国的学区制度，制定了一个雄心勃勃的教育改革计划。这个计划把日本全国分为八个大学区，每个大学区再分成32个中学区，而每个中学区由二百一十个小学区组成。每个小学区一个小学校，全国53.780个小学校；每个中学区一个中学校，全国256个中学校，每个大学区一个大学校，全国八个大学校。
　　这个雄心勃勃的计划超过了当时贫弱的日本能负担的限度，所以不可能一举实现，明治政府就从这个金字塔的顶端河底边开始着手，先完成最底层的小学校教育义务化和最顶端的大学校。经过5年的调整之后，终于在1877年把东京开成学校和医学校这两个学校合并成了有法、理、文、医四个学部组成的东京大学。
　　但那时候的东京大学很不稳定，教师学生人数都不够。虽然文部省是想把它作为日本的最高学府，但东京大学的人气比像司法省、工部省、内务省等各省自己办的培养自家用干部的专门学校以及庆应义塾等私立洋学堂要差得多。人气差的原因主要是学生的出路不行。像1879年东京大学法学部9名毕业生中有6名去当1893年之后叫“辩护士”的“代言人”，也就是律师，而1882年毕业的八人全部去了大隈重信办的东京专门学校，也就是现在的早稻田大学教书去了。倒不是东大生中没有人想去干官吏，但是只要一听说要从最低级的第十四等官干起，也就没有人会感兴趣了。
　　读过拙作《有一类战犯叫参谋》和《浩瀚的大洋是赌场》的读者可能会注意到1886年这个帝国大学成立的年份，培养陆军精英军官的陆军大学校成立于1883年，而培养海军精英军官的海军大学校则成立于1888年，这三个学校几乎同时成立。实际上这三个学校都是同一个人操办起来的，那就是山县有朋。
　　陆军大学校就是山县有朋自己操持着办的，后来的海军大学校也是山县有朋建议海军办的，提出办这个帝国大学的是伊藤博文，但制定帝国大学的办学目的和方针的却是山县有朋，因为他当时是内务大臣，这些杂事全归他管。
　　正因为是同一个人办出来的学校，所以这三个学校带有惊人的相似之处：都是采取培养精英的方式一元化地培养该领域的主官的学校。“官僚”也就是“行政管理官员”，而实际上“武官”和“文官”仅仅是所谓“行政管理官员”由于分管领域不同而产生的不同分类罢了。能够怎么培养武官就能够怎么培养文官，能够怎么使用武官也就能够同样地使用文官，这就是山县有朋思维的出发点。
　　和陆大海大一样，帝国大学也是一所极为精英化的学校。从甲午战争之后一直到1937年中日全面战争爆发之前，每年去日本留学的中国留学生相当多，但里面真正能进入帝国大学或者后来的东京帝国大学的却寥寥无几，这就说明了考入帝国大学的困难。
　　因为帝国大学的学生是官老爷的预备军，他们一毕业就是货真价实的官老爷。