Прообраз Les Compagnons de la Chanson возник в 1941 году в Лионе. Во главе объединения стоял Луи Лебар. Среди участников первого состава были Жан-Луи Жобэ, Юбер Ланселот, Ги Бургиньон, Жан Альбер, Марк Эрран. Периодически к ансамблю примыкали и другие музыканты, однако не задерживались надолго, в отличие от Фредда Мелла, ставшего в 1943 году солистом.
Во время войны коллектив выступал преимущественно в Центральной Франции, первый концерт в Париже, в Comédie Française, состоялся в 1944 году. В период Освобождения Les Compagnons de la Chanson присоединились к хору армии генерала Де Латтра в северной Франции. В то время к коллективу присоединились Жо Фрашо, Жерар Саба и Поль Буссонно, а сотрудничество с Лебаром завершилось. В итоге финальный состав выглядел так: Жобер, Бургиньон, Эрран, Альбер, Ланселот, Фрашон, Сабба, Бусссонно и Фред Мелла.
В 1946 году Эдит Пиаф предложила ансамблю записать вместе песню “Les Trois Cloches”, что стало поворотным моментом в их карьере. Песня разошлась миллионным тиражом, вся Франция полюбила Les Compagnons de la Chanson, а вскоре пришел черед и Америки – Пиаф взяла ансамбль на гастроли в Нью-Йорк. Пять месяцев музыканты с триумфом выступали в США, в следующем году вернулись вновь, а в 1949-м отправились в турне по Квебеку, где Буссонно решил остаться, женившись на уроженке тех мест. Новым участником группы стал младший брат Фреда Мелла Рене.
В первой половине 50-х Les Compagnons de la Chanson очень много гастролировали и записывались, в том числе с Пиаф (“Céline”, “Dans les prisons de Nantes”, “C’est pour ça”). Место ушедшего в 1952 году Эррана занял Жан Бруиссоль, четыре года спустя из ансамбля ушел Альбер, вместо которого пригласили Жан-Пьера Кальве. В те годы были записаны хиты “Lettre à Virginie”, “le Violon de tante Estelle”, “San Francisco”, “Gondolier”, “Guitares et tambourins”, “Si tu vas à Rio”, “le Marchand de bonheur”.
60-е тоже стали периодом процветания для Les Compagnons de la Chanson. В 1962 году был заключен контракт с мэйджором Polydor, в том же году музыканты впервые выступили в Bobino. В 1964 году был предпринят мировой тур, в рамках которого ансамбль дал 25 концертов в СССР, выступил в Израиле, Африке, Канаде и США. Тиражи их пластинок впечатляли – до полумиллиона в год! Среди шлягеров 60-х значатся Verte campagne” (’60), “Roméo” (’61), “Un Mexicain” (’62), “la Chanson de Lara” (’66), “En écoutant mon coeur chanter” (’67), “Quand la mer monte” (’68).
31 декабря 1969 года скончался Ги Бургиньон. Через два с небольшим года коллектив покинул Жан Бруиссоль, на его место был взят мультиинструменталист Гастон (Мишель Кассез). Les Compagnons de la Chanson по-прежнему много выступали, в том числе и за рубежом, однако в 1980-м году объявили о том, что завершают карьеру и отправляются в последний тур – он продлился пять лет! Последний концерт легендарного коллектива состоялся 15 марта 1985 года.