Diergardts Begegnungen mit Berliner Wissenschaftlern führen zu Anfang des
20. Jahrhunderts zu aufsehenerregenden Erwerbungen. In Berlin werden Kunstsammlungen aus dem Süden des russischen Zarenreiches angeboten. Johannes von Diergardt kauft im Verbund mit den Berliner Museen Grabfunde des Altertums und des frühen Mittelalters aus den weiten Siedlungsgebieten am nördlichen Schwarzen Meer.
Der Sammlungshorizont des Barons weitet sich seitdem über ganz Europa aus. In drei Jahrzehnten trägt Johannes von Diergardt die größte private Sammlung völkerwanderungszeitlicher Kunst zusammen. Weit über sechstausend archäologische Funde umspannen ein Jahrtausend, von der Zeit Alexanders des Großen bis zu Karl dem Großen: Es sind Zeugnisse der Griechen, Skythen, Baktrer, Bosporaner, Römer, Sarmaten, Byzantiner, Hunnen, Ost- und Westgoten, Krimgoten, Gepiden, Langobarden, Franken, Alamannen, Burgunder, Aquitanier, Vandalen, Avaren, Slaven und Wikinger.
Johannes von Diergardt gab auch großzügige Geschenke und Leihgaben an andere Museen: an das k. u. k Naturhistorische Museum in Wien, an das Museum für Vor- und Frühgeschichte in Hamburg-Harburg, an das Archäologische Institut der Universität Göttingen, an das Schweizer Landesmuseum in Zürich.
Beide Weltkriege treffen die Sammlungen des Barons. Als „Feindvermögen“ verliert er 1914 in Paris neu erworbene Funde, heute im Archäologischen Nationalmuseum in
St. Germain-en-Laye bei Paris.
Bei einem Luftangriff auf Köln 1943 geht ein Teil der nicht ausgelagerten Sammlung unter.
Schatzstücke der Völkerwanderungszeit, Geschenke des Barons an die Berliner Museen, werden 1945 mit dem „Troja-Gold“ als Beutegut nach Moskau in das Puschkin-Museum der Schönen Künste überführt.
Die Sammlung Diergardt ist heute wieder ein ambitioniertes Forschungsprojekt des Römisch-Germanischen Museums, denn in den vergangenen Jahren wurden neue Dokumente zur Sammlungsgeschichte zugänglich. Zahlreiche Wissenschaftler, unterstützt von Stiftungen, erforschen Herkunft und kulturelle Hintergründe der Sammlung.
