El reinado de Trajano (98-117 d. C.) marcó el punto culminante de la gloria de Roma. Durante los siguientes trescientos años, Roma perdió territorio y fuerza, aunque su influencia todavía impregnaba todos los pueblos y granjas de la región. Incluso cuando el imperio todavía era fuerte, el poder ya se había trasladado de Roma a la capital oriental de Constantinopla (Estambul), la "Nueva Roma".
La afluencia de múltiples grupos "bárbaros" tuvo un profundo efecto en Roma entre los siglos I y V d. C. Las tribus y los jefes asiáticos empujaron a otros grupos hacia el oeste a colisiones con Roma. Los hunos en lo que hoy es Rusia y Ucrania llevaron a las tribus góticas a cruzar el Danubio, ya sea como invasores o inmigrantes. Un número tan grande no siempre fue absorbido pacíficamente, sin embargo, los godos, que finalmente se establecieron en España y Galia (Francia), no deseaban destruir Roma. Tampoco la mayoría de los llamados bárbaros, ya que la larga existencia del imperio permitió el comercio, difundió la cultura y el idioma y ofreció protección. En cambio, los recién llegados deseaban asegurarse un lugar favorable dentro del imperio. Incluso Atila, el líder guerrero de los hunos, buscó la conquista y la riqueza en lugar de la destrucción total.
Muchas tribus bárbaras se integraron en la sociedad romana al convertirse en miembros de su ejército. En el siglo IV, la mayor parte del ejército fronterizo de Roma estaba compuesto por alemanes, galos y otros bárbaros. Las posiciones de liderazgo cambiaron lentamente de oficiales romanos a hombres que habían aprendido latín como segundo idioma. Hasta mediados del siglo IV, Roma llevó a cabo campañas preventivas a lo largo del Danubio y el Rin para controlar a las tribus germánicas allí. En ese momento, el imperio estaba reclutando tropas de más allá de la frontera, de tribus que habían sido derrotadas o simplemente deseaban la paz. Después de ese punto, los ejércitos solían ser convocados a puntos calientes para repeler ataques, dejando grandes tramos de la frontera sin defender.
La incapacidad de defender sus propias fronteras fue solo una señal del deslizamiento de la gloria del Imperio Occidental. La brecha entre los dos imperios romanos se hizo aún más pronunciada en el siglo V, cuando una sucesión de emperadores títeres en manos de generales militares manipuladores debilitó aún más a Occidente. En 476, el líder escirio Odovacar (u Odoacro) derrocó al último emperador occidental y tomó el control. Tradicionalmente, esa fecha representa el final del Imperio Romano Occidental.
Sin embargo, Roma no se derrumbó simplemente. Odovacar, a su vez, fue derrocado por Teodorico; este rey ostrogodo gobernó hasta 526, apoyado por un ejército de fuerzas alemanas, no romanas. La infraestructura del Imperio Occidental se vino abajo después de la muerte de Teodorico, cuando las guerras devastaron gran parte de Italia. La peste y el hambre contribuyeron a la miseria, y la población de la ciudad de Roma se redujo a cincuenta mil personas.
En contraste, el Imperio Romano de Oriente se mantuvo durante otros mil años. Sin embargo, después del reinado de su extravagante y poderoso emperador del siglo VI, Justiniano, su territorio disminuyó hasta que la ciudad bizantina de Constantinopla cayó en manos de los turcos otomanos en 1453.