Segretario generale del Comitato centrale per il grande Giubileo, presidente della Peregrinatio ad Petri Sedem, organismo della Santa Sede incaricato dell'organizzazione e dello sviluppo dei pellegrinaggi a Roma, presidente della delegazione vaticana nella Commissione mista Italia-Santa Sede. Il 9 aprile del 2001 Giovanni Paolo II lo ha nominato prefetto della Congregazione per l'evangelizzazione dei popoli, l'importante dicastero vaticano che si occupa di tutta l'attività missionaria della Chiesa.

Laureato in Filosofia alla Statale di Roma, in Teologia e in Diritto canonico alla lateranense, in Scienze diplomatiche alla Pontificia accademia ecclesiastica.

Ordinato sacerdote il 12 marzo 1967, nel 1972 è entrato al servizio della Sede apostolica come consigliere di nunziatura. Dopo essere stato in Brasile per quattro anni, è stato richiamato a Roma per lavorare alla segreteria di Stato, dove per quasi dieci anni ha seguito gli affari italiani e le comunicazioni sociali, finché, nel 1987, il Papa lo ha nominato assessore della segreteria di Stato. Ha diretto le celebrazioni per i cinquant'anni di sacerdozio di Giovanni Paolo II e i grandi incontri internazionali di sacerdoti a Fatima, nel 1996 e in Costa D'Avorio, nel 1997. Distintosi per le sue doti organizzative, già da tempo Sepe era indicato come uno dei personaggi in ascesa del Vaticano e nel gennaio del 2001 è stato elevato a cardinale da Papa Giovanni Paolo II.

Sandro Magister, sull'Espresso, lo definisce "monsignor spettacolo" e così descrive la sua carriera ecclesiastica: "Da sconosciuto uomo di Curia a boss del Giubileo. Giostrando tra tv, soubrette e complessi rock, con un obiettivo: Napoli".