Johannes Freiherr von Diergardt wird 1859 in Bonn als Sohn des Rittergutsbesitzers Friedrich Heinrich von Diergardt und seiner Frau Bertha Johanna von der Heydt geboren.
Den Grundstein für das Familienvermögen legte der Großvater Friedrich Diergardt, 1860 geadelt, als erfolgreicher Textilfabrikant und Industrieunternehmer. Der Diergardtsche Samt aus Viersen gewann Weltruf. Als herausragender Vertreter der rheinischen Wirtschaft wird Friedrich von Diergardt auf dem Heumarktdenkmal in Köln dargestellt. Über Generationen hinweg tritt die Familie mit großen Sozialstiftungen hervor.
Johannes von Diergardt macht sein Abitur in Bonn und übernimmt der Familientradition folgend mit seinen Brüdern die Diergardtsche Güterverwaltung. Sein rheinischer Lebensmittelpunkt ist Schloss Bornheim. Auf der neuen Diergardtschen Familiengrabstätte im Parkgelände des Schlosses wird 1885 ein fränkischer Friedhof gefunden. Baron Johannes, 25jährig, lässt den kleinen Friedhof auf seine Kosten ausgraben und verwahrt die Funde zeitlebens im elterlichen Schloss (heute im Rheinischen Landesmuseum Bonn).
Ein erneuter fränkischer Schmuckfund, 1902 aus der Grabgrube seiner Mutter Bertha, löst eine erneuerte Passion für archäologisch-historische Zeugnisse der Völkerwanderungszeit aus. Der Baron sucht neue Herausforderungen: Das kaiserliche Berlin um 1900 entwickelt sich zu einem dynamischen gesellschaftlichen und kulturellen Mittelpunkt. An den Berliner Museen begegnet er Wissenschaftlern, die ihn als Sammler beraten. Seinerseits gibt er großzügige Unterstützung für Forschungen, Ausgrabungen und Erwerbungen zugunsten der Berliner Museen.
Der leidenschaftliche Sammler unterhält über Jahrzehnte europaweite Beziehungen zu Forschern, Antiquaren und renommierten Kunsthändlern. Seine Bildung, seine vornehme Zurückhaltung, seine Freigiebigkeit und seine gesellschaftlichen Verbindungen führen ihn auf seinen zahlreichen Reisen zu vielfältigen Begegnungen. Bis zu seinem Tod 1934 lebt er mit und für seine weltberühmte Sammlung.
Johannes von Diergardt hinterließ die testamentarische Bestimmung, dass seine „Sammlungen möglichst komplett bleiben und von einem Berliner oder rheinischen Museum im Ganzen erworben werden“.
1934 gelang es den Berliner Museen nicht, die Sammlungen für Berlin zu erwerben. Die Stadt Köln konnte mit öffentlichen und privaten Mitteln die Sammlung Diergardt für die Römische Abteilung des Wallraf-Richartz-Museums kaufen. Als Konkurrent trat der Reichsführer SS Heinrich Himmler auf, um die Sammlung in Berlin „als Anschauungsmaterial für die weltanschauliche Schulung der SS“ zu nutzen.
Die Sammlung Diergardt bleibt in Köln und wird bis Kriegsbeginn im Wallraf-Richartz-Museum gezeigt. Nach dem Krieg dient die Sammlung mehrfach als kultureller Botschafter im Ausland. Das Römisch-Germanische Museum setzt heute die Diergardtsche Tradition fort, Zeugnisse der Völkerwanderungszeit zusammenzutragen und zu erforschen.