Pflaum, procedente de una familia de industriales judíos, tenía previsto incorporarse inicialmente a la empresa de su padre y, con ese fin, estudió Derecho en Breslavia y Heidelberg; se doctoró en Breslavia en 1925. Cuando la empresa cayó víctima de la crisis económica mundial en 1929, Pflaum comenzó una segunda carrera de Historia Antigua y Filología Clásica en Berlín, donde asistió a clases de Ulrich Wilcken, Wilhelm Weber, Eugen Täubler y Ernst Stein. Tras la llegada al poder del nacionalsocialismo, abandonó Alemania en 1933 y continuó sus estudios en París con Jérôme Carcopino en la Sorbona. Otro de sus profesores fue el epigrafista Louis Robert. En 1937, Pflaum escribió una tesis sobre el Cursus publicus durante el Imperio romano y estaba previsto que se incorporara al Centre National de la Recherche Scientifique (CNRS), que se encontraba en fase de creación.
Al estallar la Segunda Guerra Mundial, Pflaum se alistó en la Legión Extranjera francesa. Tras la derrota francesa en 1940, tuvo que abandonar su puesto en el CNRS; su tesis doctoral solo pudo publicarse de forma anónima. En 1942, huyó de la persecución y pasó a la clandestinidad en el sur de Francia, donde pudo continuar sus investigaciones sobre los procuradores romanos, que presentó como tesis en 1947, tras el fin de la guerra. Volvió a trabajar en el CNRS de París, donde fue nombrado director de investigación en 1956. Desde la década de 1960, también impartió clases en la École Pratique des Hautes Études y ocupó en repetidas ocasiones cátedras como profesor invitado en diversos países europeos y en Princeton. En 1966 fue elegido miembro correspondiente de la Academia de Ciencias de Gotinga y, en 1968, de la British Academy. De 1969 a 1971 fue presidente de la Société Française de Numismatique.