Nacque a Baden Baden il 25 novembre 1900. Suo padre, Franz Xaver Hoess era un commerciante che aveva combattuto nelle guerre coloniali tedesche.
Nel 1916 nonostante l'età riuscì ad arruolarsi nel 21° reggimento Dragoni del Baden. Combatté in Medio Oriente dove venne ferito due volte e ricevette numerose decorazioni sia tedesche che dalla Turchia (allora alleata della Germania). Al termine della guerra rientrò in Germania riuscendo a non farsi prendere prigioniero.
Si arruolò nei corpi franchi (Freikorps) ossia le milizie paramilitari che dopo il 1918 combatterono nel clima di guerra civile seguito al conflitto in Germania. Combatté in Lettonia, nel Meclemburgo, nel bacino della Ruhr. Nel novembre 1922 si iscrisse all'allora minuscolo Partito Nazista con la tessera numero 3240. Nel maggio 1923 partecipò all'assassinio di un maestro elementare, un certo Kadow, accusato di essere comunista.
Hoess venne arrestato il 28 giugno 1923 e condannato il 15 marzo 1924 a dieci anni di prigione. Nel 1928 grazie ad una amnistia generale venne scarcerato.
Entrò in contatto con la "Lega degli Artamani" un gruppo di estrema destra che predicava il ritorno alla terra in un'ottica "germanica". Del gruppo faceva parte anche Heinrich Himmler e Hoess vi si iscrisse. Nel gruppo incontrò una donna che sposò nel 1929.
Nel settembre 1933 entrò come candidato nelle SS divenendo effettivo il 1° aprile 1934.

Il 1° dicembre 1934 entrò nel corpo di guardia del campo di concentramento di Dachau. Iniziò così la sua carriera che nel 1938 lo portò alla promozione ad ufficiale (Untersturmführer). All'interno del campo di Dachau ebbe tutta una serie di incarichi sino ad arrivare ad essere Effektenverwalter ossia responsabile della amministrazione dei magazzini e dei beni dei prigionieri.
Sempre nel 1938 (il 1° agosto) venne trasferito a Sachsenhausen in qualità di aiutante e in particolare con l'incarico di amministratore del comandante e di segreteria.
Data la sua esperienza nel 1940 all'apertura del campo di Auschwitz ne venne nominato comandante.
Fu sua la responsabilità della eliminazione degli Ebrei d'Europa che giunsero al campo in quegli anni. Insieme ai suoi ufficiali ideò l'utilizzo dello Zyklon-B (un potente insetticida disinfestante) come veleno da utilizzare nelle gassazioni delle vittime.
La sua opera fu assolutamente centrale e la macchina della morte di Auschwitz crebbe in estensione ed efficenza mortale grazie alla sua inventiva e alla sua capacità di provvedere all'espletamento degli ordini di sterminio. Nell'autunno 1943 Oswald Pohl, diretto superiore di Hoess, decise che Auschwitz aveva raggiunto dimensioni tali da richiedere una suddivisione e la nomina di più comandanti, Venne così creato il campo di Auschwitz I (ossia il campo originario), il campo di Auschwitz II (noto anche come Birkenau) e Auschwitz III (ossia il campo di Monowitz più i sub-campi esterni).
Hoess venne trasferito all'Ispettorato centrale per i campi di concentramento e nominato direttore del Dipartimento D-1 ossia la Sezione Politica dell'Ispettorato.
Ufficialmente venne nominato in tale incarico soltanto il 1° maggio 1944 infatti in quel periodo veniva attuata la deportazione degli Ebrei ungheresi. Hoess venne inviato d'urgenza a Budapest per organizzare le operazioni mantenendo un contatto continuativo con gli uomini di Eichmann.
Nel maggio 1945, alla capitolazione tedesca, assunse il falso nome di Franz Lang facendosi passare per un sottufficiale della Marina.
L'11 marzo 1946 venne arrestato. Depose al processo di Norimberga e, successivamente, venne consegnato alle autorità polacche.
Processato venne condannato a morte per i suoi crimini e giustiziato a Cracovia il 16 aprile 1947. Ha lasciato una sua autobiografia che rappresenta una testimonianza importante per la storia del campo di Auschwitz.