Rudolf Diels urodził się 16 grudnia 1900 roku w rolniczej rodzinie w Berghaus w Taunus. W czasie I wojny światowej służył w armii. Później, od 1919 roku, studiował prawo na uniwersytecie w Merburgu. Pracę w pruskim ministerstwie spraw wewnętrznych w 1930 roku. Szybko awansował na doradcę w pruskiej policji w 1932 roku. Jego celem nadrzędnym było zwalczanie największych wówczas radykałów: tak komunistów, jak i nazistów. Kiedy Adolf Hitler doszedł do władzy, Diels stał już na czele pruskiej policji w Berlinie.

Duże wrażenie Diels zrobił na Göringu, który w 1933 roku zastąpił Karla Severinga na stanowisku ministra Prus. Szczególnie zaimponowała mu praca Dielsa oraz jego zaangażowanie w partię nazistowską. Do spotkania Dielsa z Göringiem doszło w kwietniu 1933 roku. Diels był już wówczas szefem nowego wydziału policji pruskiej 1A. Departament 1A został wkrótce przemianowany na Gestapo. Diels "odznaczył się" szczególnie w przesłuchaniu podejrzanego o podpalenie Reichstagu, Mariusa van der Lubbe (ostatecznie został jako jedyny skazany za ten czyn).

Diels wkrótce skupił na sobie uwagę rywali politycznych, na czele z Reinhardem Heydrichem. Przez to ledwo uniknął egzekucji w czasie pamiętnej Nocy Długich Noży. Diels został zdymisjonowany 1 kwietnia 1934 roku, a stanowisko szefa Gestapo powierzono Heinrichowi Himmlerowi. Przez krótki okres czasu Diels był zastępcą przewodniczącego policji w Berlinie, ale później skierowano go do regionalnego rządu w Kolonii jako Regierungsprasodent.

Mimo degradacji, Diels nadal utrzymywał dobre stosunki z Göringiem - czego najlepszym dowodem było poślubienie kuzynki jego protektora. Göring nie raz musiał ratować go od więzienia, szczególnie w 1940 roku, kiedy to odmówił podpisania nakazu aresztowania grupy Żydów.

W tracie procesu w Norymberdze, Diels złożył oświadczenie pod przysięgą, omawiając politykę nazistów. Ale także został wezwany przez adwokata Göringa jako świadek obrony. Później Diels powrócił do świata polityki - w 1950 roku zajął miejsce w powojennym rządzie w Dolnej Saksonii, a później przeszedł do Ministerstwa Spraw Wewnętrznych, gdzie doczekał się emerytury w 1953 roku. Zmarł 18 listopada 1957 roku w wypadku podczas polowania.

Wspomnienia Dielsa "Lucifer Ante Portas: Von Severing bis Heydrich" zostały wydane w 1950 roku. Mniej znacząca praca "Der Fall Otto Johns" ukazała się już po jego przejściu na emeryturę w 1954 roku.