公元8世纪中期后，由于土地私有化和阶级分化的发展，班田农民大量离开土地逃亡以及庄园的产生，公地公民制和班田制日益动摇。公地公民制和班田制的动摇直接影响到国家的财政收入，进而危及封建集权国家的统治。
公元8世纪末，日本统治阶级适应当时阶级斗争形势，在公地公民制的框框内进行一些有利于缓和阶级矛盾、保证国家收入和巩固统治的有限度改革。公元781年桓武天皇(公元781年—公元808年在位)即位。为了推进改革，他在打倒僧道镜而取得统治实权的藤原种继(公元738年一公元785年)支持下，于公元784年迁都山背国(今京都府中南部)的长冈，离开了贵族和大寺院等守旧势力盘根错节的平城京。守旧势力企图加以阻止，将倡议迁都者藤原种继杀害，但是大伴氏、佐伯氏、丹治比氏等阴谋分子旋即受到严惩。延历13年(公元794年)都城又从长冈迁到山背国的葛野，称平安京(今京都)。从迁都平安至公元1192年镰仓幕府建立的400年期间，史称平安时代。平安时代以后，京都仍是日本的都城，直至明治维新时。
图 桓武天皇
桓武天皇积极维护法制，刷新新地方政治。公元786年制定国郡司考绩条例16条，用以考核地方官吏政绩，打击贪官污吏。延历16年(公元797年)新设勘解由使，责成其严格监督新任国司与前任的交接事宜，起到整饰地方官纪的作用。另外任用有才能者为郡司，突破谱第禁区，还大力裁减编外国司郡司。
社会经济制度方面也进行了改革。桓武天皇鉴于班田收授制度在其实施上存在着一系列问题，乃将班授时间从6年一班改为12年一班。他还实行贷稻(出举稻)制和改革良贱制度，将出举稻的利率从50％降至30％；公元789年承认良贱之间通婚为合法，所生子女为“良民”。良贱制度修改是从法律上取消奴隶制度的一个重要步骤，在此基础上，10世纪初醍醐天皇统治时期(公元898年—公元929年)终于法律明定废除奴隶制。
在军制方面，由于公地公民制在瓦解，公民兵制已行不通，延历11年(公元792年)桓武天皇乃废除边境以外各地的征兵制，而代之以从郡司子弟和富裕者中招募的“健儿制”。桓武朝改革使农民的债务负担和徭役负担相对地有所减轻，奴婢逐步得到解放，这应视为班田农民和奴隶长期以来进行各种形式斗争的另一成果。
图 桓武朝建筑
桓武朝的改革使封建国家的经济军事实力有所增强，天皇制集权国家的权威得以保持。自公元789年起桓武天皇三次用兵东北虾夷地区，第三次时任命坂上田村麻吕(公元758年—公元811年)为征夷大将军。延历21年(公元802年)田村麻吕率军4万往征，确保了北上川中游胆泽之地，在此筑胆泽城置镇守府；803年又在胆泽城以北筑志波城，从而巩固了这个地区的封建统治。桓武天皇也曾向日本海方面出羽开拓疆土，势力达到能代川流域。