Nachdem Heinrich II. am 13. Juli 1024 ohne Nachkommen verstarb, war die Zeit der Ottonen vorbei und der Weg für die Salier frei.
Ihr erster Vertreter war Konrad II., der noch im selben Jahr zum König und drei Jahre später auch zum Kaiser gekrönt wurde. Unter seiner Herrschaft gelang es Burgund an das Heilige Römische Reich anzugliedern. Ausserdem versuchte er kirchliche Gottesurteile durch römisches Recht zu ersetzen und bildete die Ministerialen (Beamte) zu einem eigenen Stand heraus. Bei seinem Tod im Jahre 1039 hinterließ er ein sehr gefestigtes und in Aufbruchsstimmung versetztes Reich.

Sein Sohn und Nachfolger Heinrich III., der bereits vorher zum Mitkönig bestimmt wurde, übernahm 1030 das Zepter und legte großen Wert auf den neu entstandenen Friedensgedanken in Europa. Diese "erste Friedensbewegung" hatte sich, ausgehend vom südlichen Frankreich über das gesamte christliche Europa ausgedehnt. Trotzdem kam es auch unter Heinrich III. zu kleineren Kämpfen in Ungarn und Polen. Als er seinen Sohn Heinrich IV. 1053 zum Mitkönig wählen lassen wollte, musste er eine weitreichende Bedingung akzeptieren:
Die Wahlberechtigten Größen des Reiches wollten dem neuen König nur folgen, wenn er sich als gerecht erwies.

Als Heinrich III. drei Jahre später überraschend verstarb, wurde sein erst sechs Jahre alter Sohn Heinrich IV. neuer König. Die nächsten neun Jahre hatte daher seine Mutter Agnes die Vormundschaft und das Königtum musste einen starken Machtverlust hinnehmen.
So kam es, dass sich die Kirche während dieser Zeit viele Besitztümer und auch Rechte des Königs aneignete, wie z.B. das Recht die Bischofssitze neu zu besetzen. Als Heinrich, der seit seinem 15. Geburtstag selbst regierte, im Jahre 1075 versuchte einen eigenen Kandidaten für den Mailänder Bischofssitz zu bestimmten, begann der so genannte Investiturstreit (Eine Investitur ist die Amtseinweisung von Personen unter Verwendung von Symbolen).
Als Reaktion auf Heinrichs Vorgehen exkommunizierte Papst Gregor VII. mehrere Königliche Ratgeber und drohte auch dem König selbst mit Bannung, wenn er nicht von seinem Vorhaben absehe. Heinrich ließ sich dies in keinster Weise gefallen und ging zum Gegenangriff über: Er verbündete sich mit mehreren Bischöfen und forderte den Papst auf vom heiligen Stuhl herabzusteigen.
Papst Gregor VII. griff daraufhin zu drastischen Mitteln, erklärte Heinrich IV. als abgesetzt, sprach einen Bann gegen ihn aus und exkommunizierte ihn schließlich. Daraufhin distanzierten sich mehrere Bischöfe von Heinrich und unterwarfen sich dem Papst. Es wurde für den 2. Februar 1077 sogar ein Termin für die neue Königswahl angesetzt - Heinrich schien verloren zu haben.

Eines hatte Papst Gregor allerdings nicht auf der Rechnung, denn Heinrich wusste noch einen Weg, wie er eine neue Königswahl verhindern konnte: Er packte seine Familie mit Gefolge und zog im Dezember 1076 über die Alpen in Richtung Italien. Als der Papst davon erfuhr dachte er an kriegerische Absichten und zog sich auf die Burg Canossa zurück.
Heinrich hingegen zog sich ein Büßerhemd an und schritt ohne jegliche Fußbekleitung vor die Tore der Burg um Buße zu tun. Bei kaltem Winterwetter harte er dort drei Tage zwischen dem 25. und dem 28. Januar 1077 aus, bis der Papst schließlich ein Einsehen hatte und ihn hereinbat.
Obwohl nach dieser Handlung der Bann Heinrichs gelöst wurde und er König blieb, war der Investiturstreit über die Vergabe der Ämter weiterhin ungelöst.


Der Gang nach Canossa auf einem Gemälde aus den 1930er Jahren
(Dieses Bild ist gemeinfrei und nicht urheberrechtlich geschützt)

Heinrichs restliche Amtszeit war von weiteren Auseinandersetzungen gekennzeichnet. So gab es während dieser Zeit mit Rudolf von Rheinfelden (1077 - 1080) und Hermann von Luxemburg (1081 - 1088) zwei Gegenkönige und verschiedene Bürgerkriege aufgrund doppelt besetzter Ämter.
Eine erneute Bannung durch Papst Gregor führte diesmal nicht zum Verlust seiner Unterstüzer, ganz im Gegenteil: Mehrere Bischöfe wählten in Brixen mit Clements III. einen neuen Papst der Heinrich IV. im Jahre 1084 zum Kaiser krönen lies. Gregor hingegen musste sich, nachdem er seine restliche Unterstützung verloren hatte, ins Exil absetzen.

Schließlich war es aber Heinrichs eigener Sohn, Heinrich V.,  der sich an der Seite von Papst Paschalis II. gegen den Vater stellte und diesen im Jahre 1105 zur Abdankung zwang. Heinrich V. war bereits seit 1099 Mitkönig und wurde nun zum alleinigen Herrscher. Seine Amtszeit war weiterhin von der Investiturfrage geprägt, was dazu führte dass er sogar den Papst gefangen nahm, um von ihm das Investiturrecht zu erpressen.
Erst im Jahre 1022 konnte auf dem Wormser Konkordat endlich eine Einigung gefunden werden und der jahrzehntelange Streit war beigelegt. Allerdings musste das Königs- bzw. Kaisertum starke Einbußen hinnehmen und den Anspruch der Kirche auf das alleinige Recht zur Investitur akzeptieren.
Als Heinrich V. schließlich im Jahre 1125 kinderlos verstarb war die Zeit der Salier vorbei. Das Heilige Römische Reich ging einer neuen Zeit entgegen, in der die bis zu diesem Zeitpunkt bestehende Einheit von Kaiser- und Papsttum aufgehoben war.