Joseph était un enfant maladif qui souffrait de fièvre rhumatismale, rachitisme et asthme. Il avait un système respiratoire faible, ce qui ne s'arrangea pas avec le fait qu'il devint plus tard un gros fumeur. Il était souvent bousculé à l'école, car on l'appelait alors "Ponce Pilate qui a condamné Jésus Christ". Cela a motivé Joe à devenir un athlète comme son père. Il a travaillé au centre de sports (appelé le Turnverein) installé par la ville pour occuper, entraîner et assurer le développement des enfants après l'école, quand les parents travaillaient. Les enfants bénéficiaient ainsi d'un entraînement en gymnastique, lutte, ski, escrime, yoga, boxe, etc... Dans ce centre, Joseph Pilates a appris Pratique, Persistance et Persévérance, les 3P qui sont devenus son credo pour le reste de sa vie. Enfant très discipliné, à l'âge de 14 ans son corps était assez développé et attirant pour commencer à poser comme modèle pour des artistes.
Quand la guerre fut terminée, Joe retourna en Allemagne. Là, il enseigna la self-défense et fût entraîneur pour la police à Hambourg. Pendant cette période, il s'est intéressé à la danse moderne et a travaillé avec deux danseurs célèbres: Rudolf von Laban, créateur de Labanotation Danse Notation, et Mary Wigmah, une célèbre danseuse, chorégraphe et pionnière des mouvements de danse. Il s'est également intéressé à la médecine holistique de l'Orient et l'homéopathie.
Joe n'aimait pas les tendances politiques progressant en Allemagne et a émigré aux USA. Il avait déjà visité les USA et Cuba lors d'un précédent voyage. Sur le bateau "le Westphalie", qui quitta Hambourg en 1926, il rencontra une jeune infirmière qui souffrait d'arthrite. Clara Zeuner, à qui Joe s'adressait comme à une épouse, devint son assistante et une excellente professeur de la méthode Pilates. Curieusement, personne n'a jamais vu Clara faire les exercices de Pilates. Sa patience, sa tendresse et une profonde compréhension du travail de Joe faisaient d'elle une collaboratrice idéale. Ils eurent un de ces mariages appelés "uni au Paradis" même si celui-ci n'a jamais été formalisé.
Pilates avait été marié deux fois auparavant en Allemagne. D'après les archives de la Mairie de Mönchengladbach, sa première épouse Maria lui donna une fille Hélène (Leni) en 1905, qui mourut à un jeune âge, en 1913. Sa seconde femme Elfiede était née à Dortmund en 1879. Ils se marièrent en 1919 et elle mourut à Düsseldorf en 1931. Apparemment ils n'eurent pas d'enfants. Joseph Pilates devint citoyen américain en 1930. Il a écrit deux livres: "Votre Santé", publié en 1934, et "Retour à la Vie par la Contrôlogie", publié en 1945. Joseph Hubertus Pilates est décédé le 9 octobre 1967 à New York City. Il n'a laissé aucune dernière volonté concernant sa propriété intellectuelle ou ses possessions matérielles. Après la mort de Joe, Romana Kryzanovska prit la responsabilité du studio et assista Clara.