Allievo dell'Institut d'Etudes Politiques, nel 1965 si diploma presso l'Ecole Nationale d'Administration, entrando a far parte del corpo dei funzionari del ministero degli Affari Esteri. Cinque anni più tardi rinuncia alla carriera diplomatica per impegnarsi in politica nelle file del Partito socialista (Ps).

Durante questo periodo conosce François Mitterrand, di cui diventa uno stretto collaboratore e ricopre vari incarichi nel partito e nella pubblica amministrazione fino al suo ingresso all'Assemblea nazionale, nel 1981, come deputato per il collegio di Parigi. L'ascesa nel partito culmina nella nomina a segretario quando, nel 1981, Mitterrand lascia la carica con destinazione Eliseo.

Nel 1988 entra a far parte del governo, lasciando la direzione del partito a Pierre Mauroy.
Ministro della Pubblica Istruzione nel governo di Michel Rocard, poi in quello di Edith Cresson, nel 1992 viene allontanato dal governo per le critiche mosse nei confronti delle scelte politiche del presidente. Deluso dall'insuccesso alle elezioni legislative del 1993, amareggiato per le divisioni che laceravano il Partito socialista, lascia la politica con l’intenzione di tornare alla carriera diplomatica.

Ma il ritiro di Michel Rocard e la defezione di Jacques Delors lo obbligano a presentarsi come candidato alle elezioni presidenziali, (1995) nelle quali viene sconfitto al secondo turno da Jacques Chirac. Da quel momento Jospin inizia un'opera di rinnovamento del partito, circondandosi di consiglieri appartenenti alle nuove generazioni e lasciando largo spazio alle donne. Contemporaneamente lavora anche al riavvicinamento delle sinistre: nelle elezioni legislative del 1997 riesce a creare una coalizione comprendente Ps, sinistra radicale, ecologisti, Verdi e Partito comunista.
Protagonista della campagna legislativa, Jospin presenta un programma che, imperniato sul problema della disoccupazione, propone la riduzione dell'orario di lavoro a trentacinque ore settimanali e il rilancio dell'economia attraverso l'aumento, concertato tra le parti sociali, dei salari. Convinto della necessità di contrapporre agli orientamenti puramente economici della futura Banca centrale europea un'istanza politica che tutelasse il lavoro e i salari.
Il 2 giugno 1997 dopo la vittoria della coalizione di sinistra, Jospin viene nominato primo ministro, governando in regime di coabitazione con il presidente gollista Chirac.

Massimo D’Alema dopo la vittoria del ’97 di lui ha detto. "Esprimo soddisfazione non solo per la sinistra e per la Francia, ma anche per il successo personale che premia le sue doti di intelligenza, serietà e simpatia".