Une tradition cynique instaurée par les gardes tant SA que SS, voulaient que les prisonniers chantent en allant au travail et leurs geôliers les encourageaient à composer un hymne propre à leur camp.

Au camp du Borgermoor, l'initiative vint des détenus eux-mêmes. 
Les nazis avaient autorisé les détenus à organiser des activités culturelles sur leur temps libre dominical, quand il en avaient encore la force. C'était une façon de résister moralement.

En août 1933, les SS se déchaînèrent sur les prisonniers qui ressortirent complètement traumatiser de l'épreuve.
Devant la détresse de ses camarades de captivité, Wolfgang Langhoff, prisonnier communiste, demanda et obtint l'autorisation de monter un spectacle de cabaret. Avec d'autres prisonniers communistes ils composèrent Die Moorsoldaten, décrivant leur quotidien et leur espoir d'être libérés, bien que sachant que le spectacle se déroulerait devant les gardiens et les SS.

Le 27 août 1933 les prisonniers sont prêts pour présenter leur spectacle intitulé Zirkus Konzentrani (Cirque des concentrationnaires).

Rudi Goguel, un ancien prisonnier et compositeur de la mélodie, raconte :
"Les seize chanteurs, pour la plupart membres de l'association ouvrière de chant de Solingen, défilaient bêche à l'épaule dans leurs uniformes de police verts (nos vêtements de prisonnier de cette époque-là). Je menais la marche, en survêtement bleu, avec un manche de bêche brisé en guise de baguette de chef d'orchestre. Nous chantions, et déjà à la deuxième strophe, presque tous les mille prisonniers commençaient à entonner en chœur le refrain. De strophe en strophe, le refrain revenait de plus belle et, à la dernière, les SS, qui étaient apparus avec leurs commandants, chantaient aussi, en accord avec nous, apparemment parce qu'ils se sentaient interpellés eux aussi comme « soldats de marécage ».

Aux mots « Alors n'envoyez plus les soldats du marécage bêcher dans les marécages », les seize chanteurs plantèrent leur bêche dans le sable et quittèrent l'arène, laissant les bêches derrière eux. Celles-ci donnaient alors l'impression de croix tombales."

A partir de 1935, des prisonniers libérés s'exilent à travers l'Europe, notamment en Angleterre où le musicien de Bertolt Brecht, Hanns Eisler, l'entend pour la première fois et il en fait une adaptation pour le chanteur Ernst Busch (ci-après). La chanson sera reprise en Espagne par les Allemands des Brigades Internationales où Busch s'est engagé.

La chanson a voyagé en Basse Saxe, notamment au camp de concentration voisin du Borgermoor, le camp d'Esterwegen. (d'où la fréquente confusion sur son origine)

Des prisonniers d'Esterwegen furent envoyés près de la ville d'Oranienburg pour construire un nouveau camp : Sachsenhausen. 
Ce fut le point de départ de cette chanson qui, au fil des transports de déportés d'un camp à l'autre, allait être chantée dans tous les camps, jusqu'à Auschwitz, et dans toutes les langues des bagnards du Reich, y compris par les femmes de Ravensbrück.

Die Moorsoldaten sera même chantée au goulag de Tambov par les "malgré nous" alsaciens et mosellans capturés par les soviétiques.