Die Abteilung Rheinland des Landesarchivs wurde 1832 als Zentralarchiv für den Nordteil der damaligen preußischen Rheinprovinz gegründet. Seine Aufgabe bestand zum einen darin, die versprengten Urkunden und Akten der alten Territorialverwaltungen und der aufgehobenen Klöster und Stifte an einer Stelle zusammenzuführen und auf Dauer zu sichern. Zum anderen sollte es zukünftig auch die Unterlagen der seit 1815 neu entstandenen preußischen Behörden in den Regierungsbezirken Köln, Düsseldorf und Aachen übernehmen. Während bis zum Ende des 19. Jahrhunderts das Ordnen und Erschließen der alten Bestände aus der Zeit vor 1815 im Vordergrund stand, nahmen seit der ersten Hälfte des 20. Jahrhunderts die Aufgaben des Verwaltungsarchivs stark zu.

Mit der Gründung des Landes Nordrhein-Westfalen im Jahr 1946 und der damit verbundenen Neuordnung der Verwaltung kamen zusätzliche Aufgaben auf das ehemalige Provinzialarchiv zu. Ab 1952 war das Archiv auch für die Überlieferung der Ministerien und der Oberbehörden des Landes zuständig. Diese neue Aufgabe fand ihren Niederschlag in der Bezeichnung des Archivs, das sich fortan Landeshauptarchiv bzw. seit 1961 Hauptstaatsarchiv nannte. Im Jahr 1970 wurde im Hauptstaatsarchiv eine eigene Abteilung für das Schriftgut von Parteien und Verbänden, für Nachlässe bedeutender Persönlichkeiten aus Politik und Gesellschaft sowie für Bild-, Film- und Tondokumente eingerichtet.

Die Archivierung personenstandsbezogener Unterlagen an einem Standort reicht bis in die Zeit des Zweiten Weltkriegs zurück. Seit etwa 1942 wurden vom damaligen Landessippenamt der Rheinprovinz auf der Festung Ehrenbreitstein in Koblenz die Kirchenbücher und die aus der Zeit vor 1900 stammenden Personenstandszweitbücher (mit Beiakten) zusammengefasst. Nach dem Zweiten Weltkrieg übernahm die neue Archivverwaltung der Rheinprovinz bzw. ihre Nachfolgerin, die Landesarchivverwaltung Nordrhein-Westfalen, das ihren Sprengel betreffende Schriftgut als Personenstandsarchiv. Dieses wurde in Brühl eingerichtet und stellte die personenstandsrelevanten Unterlagen der Verwaltung, Recht suchenden Bürgern und nicht zuletzt auch der familiengeschichtlichen Forschung zur Verfügung.

Infolge der jüngsten, in wesentlichen Teilen zum 1. Januar 2009 wirksam gewordenen Reform des Personenstandsrechts mit ihrer Einführung gleitender Fortführungsfristen werden die Bestände der Personenstandsregister seitdem laufend durch Abgaben der Unteren Standesamtsaufsichten ergänzt, beginnend mit den Sterberegistern der Jahre 1938 – 1980.

Im Jahr 2008 wurden Hauptstaatsarchiv Düsseldorf und Personenstandsarchiv Brühl zur Abteilung Rheinland des Landesarchivs Nordrhein-Westfalen vereinigt. Im Neubau des Landesarchivs im Duisburger Innenhafen wurden sämtliche Standorte der Abteilung Rheinland des Landesarchivs im Jahr 2014 räumlich zusammengefasst.