Si laurea presso l'università di Princeton nel 1954. Dal '54 al '57 è aviatore della marina militare americana. Sempre nel '57 arriva a Washington dove, durante la presidenza di Dwight Eisenhower, ricopre il ruolo di assistente amministrativo di un esponente del Congresso.

Il vero "decollo" politico è di qualche anno successivo. Nel 1962, a soli trent'anni, Rumsfeld viene eletto al Congresso americano. E' il primo di quattro mandati. Verrà rieletto infatti nel '64, nel '66 e nel '68.

Nel 1969, sotto la presidenza di Richard Nixon, entra a far parte del Gabinetto del presidente come direttore dell'ufficio delle Opportunità economiche. Più tardi gli viene affidata la mansione di direttore del Programma di stabilità economica.

Nel gennaio '73 una missione internazionale. E' ambasciatore americano presso la Nato di Bruxelles.

Dura un anno e mezzo l'esperienza europea di Rumsfeld. Nell'agosto del '74 infatti torna a Washington. Con l'affermazione alle presidenziali di Gerald Ford diviene capo dello staff della Casa Bianca.

Quindi nel 1975 la definitiva consacrazione politica. Ha 43 anni ed è il più giovane Segretario alla Difesa della storia americana. Resta in carica fino al '77.

Con l'uscita di scena del presidente Ford e dopo circa venti anni di attività nell'amministrazione pubblica, Rumsfeld abbandona la ribalta politica e diviene uomo d'affari.

A cavallo degli anni Settanta e Ottanta è a capo di una multinazionale farmaceutica, la G. D. Searle & Co..

Dall'85 al '90 lavora in proprio, per tornare poi a capo di un'altra importante azienda. Questa volta si tratta della General Instrument Corporation che opera nel campo della televisione digitale ad alta definizione. Resta qui fino al '93.

Sebbene defilato rispetto al passato, in questi anni resta molto vicino all'ambiente politico. Soprattutto nel periodo dell'amministrazione di Ronald Reagan. Si occupa di difesa e di politica internazionale. E' membro di diverse commissioni istituite dall'allora presidente americano.

Anche sotto la presidenza del democratico Bill Clinton (due mandati, dal 1992 al 2000), Rumsfeld assume incarichi di rilievo. Tra gli altri quello di presidente della Commissione per la sicurezza spaziale.

Per quanto riguarda il programma di difesa nazionale, ovvero il progetto di difesa missilistica conosciuto come "scudo spaziale", è sulla stessa lunghezza d'onda di George W. Bush.

E quando questi si insedia alla Casa Bianca nel gennaio 2001, lo vuole nella sua squadra di governo.

Dopo ventiquattro anni Rumsfeld torna a ricoprire il ruolo di Segretario alla Difesa.

In seguito agli attentati terroristici dell'11 settembre a New York e Washington, Rumsfeld si impone come uno dei più duri dell'amministrazione Bush.

Quando il 7 ottobre hanno inizio gli attacchi aerei americani sull'Afghanistan dichiara sicuro: "Potremmo bombardare ininterrottamente all'infinito, 24 ore su 24".

Così come dopo aver verificato la resistenza dei Talebani e le difficoltà delle operazioni a terra per la cattura di Bin Laden si mostra nettamente più realista: "Il mondo è grande. Vi sono un sacco di Paesi. Lui ha un mucchio di soldi e molte persone che lo appoggiano. Non so proprio dire se riusciremo a catturarlo".

Il pensiero politico di un uomo come Rumsfeld che è passato con estrema disinvoltura dal settore pubblico a quello privato è ben preciso: la cosa pubblica va guidata e gestita con i metodi del settore privato. Questa tesi l'ha sostenuta nel suo libro Rumsfeld's Rules, pubblicato nella seconda metà degli anni Settanta. Si tratta di una sorta di vademecum destinato ai manager pubblici.

E' sposato dal 1954 con Joyce. Ha tre figli e cinque nipoti.