Фон Геркан родился в 1935 в Риге, познакомился на учебе в Брауншвейгском техническом университете с Фольквином Маргом, уроженцем Кёнигсберга, и в 1965 вместе с ним основал в Гамбурге бюро von Gerkan, Marg und Partner, лучше известное под аббревиатурой gmp. Как вспоминает Марг, все началось с объявления в газете – «Архитектурные чертежи очень дешево», – а сегодня речь идет о фирме с около 600 сотрудниками в семи городах Германии и мира.