Francis Cabrel naît dans une famille modeste originaire du Frioul en Italie, d'un père ouvrier dans une biscuiterie et d'une mère caissière dans une cafétéria. Il a une sœur, Martine, et un frère, Philippe. Il passe son enfance à Astaffort, dans le Lot-et-Garonne, où il vit actuellement avec sa femme et ses trois filles.

À treize ans, il entend pour la première fois Like a Rolling Stone de Bob Dylan à la radio ; une découverte qui aura une influence majeure dans sa carrière2. À Noël, son oncle Freddy lui offre uneguitare ; il se met ainsi à composer ses premiers morceaux afin de lutter contre sa timidité. Il se met alors à reprendre les chansons de Neil Young, Leonard Cohen et évidemment Bob Dylan, apprenant l'anglais en traduisant les paroles. Il racontera plus tard qu'il pensait que sa guitare lui permettait de se rendre plus intéressant aux yeux des autres. À 17 ans, il commence à monter plusieurs groupes de folk rock mais ceux-ci ne tiennent pas longtemps.

Renvoyé du Lycée Bernard Palissy d'Agen pour indiscipline, il part travailler à 19 ans dans un magasin de chaussures tout en jouant dans des bals locaux avec un groupe « Ray Frank et les Jazzmen ». Le groupe se renomme par la suite « les Gaulois » à cause des moustaches de chacun des membres. En effet, à cette époque, Cabrel arbore un style hippie, cheveux longs et moustaches.

En juin 1974, à Toulouse, il participe à un concours de chanson de Sud Radio durant lequel se succèdent 400 candidats devant un jury composé notamment de Daniel et Richard Seff. La chanson Petite Marie,(album Les Murs de poussière), dédiée à sa femme Mariette, lui permet de remporter le concours et le prix de 2 000 francs. De plus, les frères Seff lui ouvrent les portes de la firme CBS.

Managé en début de carrière par Jacques Marouani3, c'est ensuite à Maurice Tejedor - producteur de spectacles dans le grand Sud-Ouest, avec qui il lie des liens amicaux au cours d'une mini-tournée^{[réf. nécessaire]} - qu'il confie l'organisation de ses spectacles et de ses tournées. Une aventure de plusieurs années qui les conduira de la scène de l'Olympia à celles de l'Hexagone, mais aussi de la Suisse, de la Belgique, de l'ancienne Allemagne de l'Ouest et de Berlin-Est, du Québec, Tahiti, la Nouvelle-Calédonie, la Réunion, Maurice, etc.