Nato a Maywood (Illinois) da immigrati tedeschi[1][2][3], Eleanor Mueller, dipendente delle Poste, e Franz Ferdinand Schlachta, fornaio e poi dipendente postale.[4] Ha due sorelle maggiori, Heidi (* 1935) e Marlene (* 1938).
Si diploma alla Proviso East High School per poi laurearsi alla Southern Illinois University Carbondale. Viene poi richiamato alle armi in una compagnia aviotrasportati in Vietnam. È un forte sostenitore della guerra al terrorismo e a questo riguardo ha dichiarato, incitando gli americani a dare appoggio alle truppe.
Franz inizia a recitare nel rinomato Organic Theatre di Chicago e colleziona piccole apparizioni in serie televisive quali A-Team mentre guadagna la ribalta del piccolo schermo interpretando il moralmente ambiguo Norman Buntz in Hill Street giorno e notte e nel suo breve spin-off Beverly Hills Buntz.
Ma è con il personaggio di Andy Sipowicz che Franz ottiene la fama, vincendo quattro Emmy Award tra il 1994 e il 2004. Sipowicz occupa la 23ª posizione nella classifica dei 100 migliori personaggi della TV stilata dalla rivista Bravo.
Franz ha partecipato a uno speciale film TV animato de I Simpson nei panni di un Homer crudele e perverso, accusato di molestie sessuali, nell'episodio Scene di lotta di classe a Springfield.
Sposato dal 1995 con Joanie Zeck, alla quale era legato da tredici anni. Nel 2005, al termine di NYPD - New York Police Department, ha annunciato il ritiro dalle scene.