Les débuts de la société furent trés modestes : MM. les abbés COSPIN et LHERMITTE, vicaires de l'église St Jean Baptiste, avaient fondé en 1904 une petite société de clairons annexée au patronnage. A ses débuts 12 clairons, dirigés par l'abbé LHERMITTE, répétaient dans la cour du patronnage, au n° 35, rue de Flavigny.
MM les abbés LHERMITTE et COSPIN décidèrent d'établir, en 1906, les fondements d'une société de gymnastique, là, où jusqu'alors les clairons seuls faisaient entendre leurs accents endiablés.
La naissance officielle :
La société régie par la Loi de 1904, fût approuvée en préfecture en date du 1er Septembre 1907.
La Vaillante à ses débuts était à caractère confessionnel. L'uniforme des "Vaillants"
Chemisette de flanelle avec broderie, béret blanc avec écussons, ruban tricolore, ceinture noire et pantalon blanc fût bientôt connu de tous.
Les premiers concours :
La Vaillante va cueillir ses premiers lauriers aux concours de Vaux-sous-Laon et Paris en 1907, à Bar le Duc en 1908, à la Ferté-Chevressis en 1909.
En 1909, un troisième vicaire, l'abbé BOUDET, prend sa besace de mendiant qu'il ne quitta guère et gràce a ses efforts, il amasse 1200 Francs qui serviront à l'achat des nouveaux instruments commandés aux "Nouvelles Galeries".
Mr Ludovic CRETY accepta de former les jeunes artistes qui sortirent fièrement en ville, notamment à la St Fiacre.
En juillet 1910, la Vaillante participe à un concours à Bruxelles accompagnée en musique par une fanfare formée de vingt musiciens dirigés par Mr CRETY.
En août de la même année, les tambours et clairons emmenés par l'abbé BOUDET concoururent à Fougères et y gagnent une médaille de bronze.
Mr Emile BUFFET, prend la direction de la jeune musique.
Les nombreux concours de Nancy et Compiène en 1911, de Vannes en 1912, d'Orléans en 1913 et de Lisieux en 1914 aimer et applaudir la société.