查理帝国分裂后，在东法兰克逐渐形成的德意志国家，其中包括萨克森、士瓦本、巴伐利亚、法兰克尼亚四个实际独立的公国，后来又并取了洛林公国。911年，加洛林王朝统治告终。以后历代国王均从地方权贵中选出，他们上台不是致力于加强中央政权，而是屈从于地方封建诸侯的压力，热衷于对外扩张。萨克森公爵亨利一世统治时期(919－936年)，他以贵族亲兵和萨克森富裕自由农民为骑士，组成强大的武力，对内制服抗命的诸侯，对外积极扩张。925年，亨利从法国手中夺回洛林，928年，东渡易北河，侵占西斯拉夫人的要塞勃兰尼堡尔，改名勃兰登堡，成为向东侵略的据点。933年，在易北河口建立施勒斯维希边区，迫使丹麦王纳贡。奥托一世(936－973)即位后，在查理大帝的故乡阿亨加冕为王，一面制服各大诸侯，一面以教会封建主为王权的支柱。德国的主教事实上由国王任命。国王赐给教会大片领地，并把领地内的行政权和司法权授予主教，从而使教会和寺院加强了在辖区内的统治地位。他们肆意剥削农民，国王则从教会和寺院的领地征收直接税，主教出缺时，教会的全部收入都归国王所有。这样，国王的利益和教会的利益密切地结合起来，国王不但增加了经济力量，而且可以借助教会的力量，牵制各大诸侯的势力。奥托一世同其前任一样，继续推行对外扩张政策，950年征服波希米亚，955年打败匈牙利人，但他的主要侵略目标是意大利。他企图掠夺意大利城市的财富，控制从北意通往德国的商路和罗马教廷。意大利的政治经济形势为他进行侵略以可乘之机。

查理帝国分裂后，意大利为罗退耳所有，他死后，其领土又经分割。意大利的北半部称为意大利王国。在意大利王国中，包括伦巴底、弗里乌尔和味罗纳，他们的诸侯经常为争夺王位而混战不已。意大利中部分为教皇区和托斯坎尼、斯波累托等大封建领地，分别独立。南部和西西里起初被拜占廷和阿拉伯人所分割，十一世纪后又被诺曼人所征服。意大利的城市出现较早。九至十世纪，罗马时代的旧城逐渐成为工商业中心，意大利北部又产生一些新城市，许多城市与地中海东部各国保持着贸易关系，成为东方贵重商品的集散中心。意大利城市的富庶引起德国封建主的贪欲，国家的分裂又便于外族入侵。951年，奥托一世开始进兵意大利，直接干预北意大利封建主之间的斗争，并占领伦巴底。他在巴威亚接受了意大利国王的称号。奥托并不以此为满足，极力要控制罗马教皇，以巩固他对德意志教会的统治。955年，约翰十二世登上教皇宝座，遭到罗马贵族反对。约翰吁请奥托提供援助，于是奥托在961年再度进军意大利，巩固了教皇的地位。962年2月，教皇在罗马圣彼得大教堂为奥托加冕，称“神圣罗马帝国”皇帝。这一帝国从一开始就有名无实，它在名义上的疆域包括德国和意大利的一部分，但从未实行有效的统治。几乎每个皇帝在即位后，都要先制服叛乱的诸侯，而后重新夺取意大利。帝国建立后，不但引起和意大利城市与教廷的矛盾，而且也分散了德国对内的统治力量，妨碍了德国王权的集中。

十一至十二世纪，皇帝与教皇的冲突趋于紧张，特别是在主教授职权的问题上完全表现出来。教皇格里哥利七世在位时(1073－1085年)，公开宣称，教皇的权力来自上帝，高于一切，教皇不但有权任免主教，而且可以废黜君王，并于1075年下令废除世俗授职权。德国境内各地主教，因其职位得之于皇帝，唯恐丧失，很多都反对格里哥利。皇帝亨利四世联合主教宣布废黜教皇。而格里哥利态度更加强硬，宣布破门律，驱逐亨利出教，废其帝位，解除其臣民的效忠誓约。面临这严峻的形势，为争取喘息之机，以利东山再起，亨利不得不暂时妥协，遂于1077年1月，前往意大利向教皇悔罪求饶。当亨利得到教皇的获准，以合法的地位回到德国后，又重新组织力量与教皇展开斗争。1084年亨利进占罗马，另立新教皇，并举行皇帝加冕礼。以后，教皇与皇帝的斗争仍在继续。直到1122年，双方订立“沃姆斯宗教协定”，才取得妥协，但斗争并不因此结束。

十三至十四世纪，德国内部诸侯各据一方，政治分裂局面加剧。国王、皇帝实际上只是一个拥有尊号的诸侯而已。直到1273年，在经过二十年皇位虚位以后，才由诸侯推选了哈布斯堡家族的卢道夫即位(1273－1291年)。他实力薄弱，诸侯推举他，是免得干预他们的独立。此后，所有的皇帝都只是徒具虚名，其统治权也只限于自己的领地。这时，帝国境内权势最大的诸侯是：勃兰登堡边地侯、萨克森公爵、捷克国王、莱茵区的巴拉丁伯爵和美因斯、科伦、特里尔三个大主教。1356年，皇帝查理四世(1347－1378年)颁布“黄金诏书”，规定皇帝由上述七个诸侯选举，他们被称为“选侯”。诏书承认诸侯在其领地内政治独立，有征税、铸币和司法等权，皇帝放弃对诸侯领地内政的任何干涉。诏书还对封建主间的私战予以承认，只是规定附庸不得发动反对自己领主的战争，城市间也不得订立同盟反对诸侯。黄金诏书的颁布，为诸侯的割据称雄提供了法律依据。帝国会议仍继续存在，但参加会议的诸侯、高级教士和城市代表的利害冲突之大，往往不能作出任何共同决议。帝国没有共同的法律，没有固定的赋税，没有常备军，没有共同的行政机关。帝国的领土也不固定，若干地区先后脱离帝国。1466年，普鲁士成为波兰的附庸，施勒斯维希和霍尔斯坦也转归丹麦。捷克在胡司战争后实际上脱离了帝国的版图。瑞士经过长期的斗争，也于1499年摆脱哈布斯堡王朝的统治，成为独立的国家。十六世纪，哈布斯堡家族查理五世当选为皇帝(1519－1555年)，他企图重振帝国，建立天主教的世界帝国。他相继镇压了德国的农民战争，西班牙的城市公社暴动。为恢复对意大利的统治，他几次发动战争，同法国作战，夺得了在意大利的霸主地位。查理五世势力的强大，引起了德国新、旧教诸侯的不安，他们于1552年发动了反对查理五世的战争，并联合法国，打败了查理五世。1555年双方缔结了奥格斯堡和约，使皇帝对诸侯的特权予以承认。至此，查理五世重振帝国的企图归于失败。1618－1648年发生了三十年战争。这个战争是由德国新、旧教诸侯的内战，演变为欧洲各国争权夺利的混战，德国是主要战场，其结果使帝国进一步分裂。神圣罗马帝国一直残喘到十九世纪初，在1806年被法国拿破仑推翻。存在约一个世纪的帝国寿终正寝。