Nel 1931 fu tra i fondatori del Group Theatre, un collettivo teatrale innovativo e specializzato in drammi moderni, spesso contenenti tematiche sociopolitiche di attualità. Molti dei componenti del gruppo furono ispirati dal Teatro d'arte di Mosca e diversi membri, tra cui Carnovsky e sua moglie Phoebe Brand, aderirono al partito comunista americano. Carnovsky apparve in quasi tutte le principali produzioni del Group Theatre, interpretando spesso parti scritte appositamente per lui dall'attore e drammaturgo Clifford Odets, tra cui le commedie Awake and Sing!, Golden Boy, Paradise Lost e Rocket to the Moon. Fu inoltre diretto da Elia Kazan nella pièce Thunder Rock (1939) e apparve in My Sister Eileen e Café Crown.
Hollywood e la Black List
Nel 1937 Carnovsky e altri attori del Group Theatre raggiunsero Hollywood per lavorare nel cinema, sperando di raccogliere fondi per sostenere le deboli finanze del collettivo. Il suo debutto sul grande schermo avvenne nel film Emilio Zola di William Dieterle, con Paul Muni, in cui interpretò lo scrittore Anatole France, e con un ruolo di supporto nella commedia Tovarich di Anatole Litvak. Rientrato a New York, Carnovsky vi rimase fino alla chiusura del Group Theatre nel 1940, dopodiché tornò a Hollywood per proseguire la carriera nel cinema e per unirsi come regista al gruppo teatrale Actor's Lab, una compagnia di recitazione analoga al Group Theatre.
La sua carriera subì una battuta d'arresto nell'aprile del 1951, quando l'attore fu interrogato dalla Commissione per le attività antiamericane (HUAC). Da tempo membro del Partito Comunista Americano, Carnovsky si rifiutò di rispondere a qualsiasi domanda, invocando i propri diritti ai sensi della Costituzione degli Stati Uniti. A seguito di altre testimonianze rese dagli attori Marc Lawrence, Sterling Hayden e dal regista Elia Kazan in merito alla loro partecipazione a riunioni del Partito Comunista svoltesi a casa di Carnovsky a Hollywood, lui e sua moglie Phoebe Brand furono identificati come comunisti e inseriti nella Black List. Il suo rifiuto di fare nomi davanti alla Commissione, pose fine alla sua carriera cinematografica. Carnowsky e la moglie tornarono a recitare in teatro e nel 1953 apparvero in The World of Sholem Aleichem, una produzione off Broadway con un cast comprendente molti attori figuranti nella Lista Nera, riuniti per dimostrare che il pubblico teatrale di New York non avrebbe mancato di sostenerli.
Nel 1979 il suo nome fu inserito nell'American Theater Hall of Fame. Nel 1980 entrò a far parte del comitato artistico dell'Yiddish National Theatre. Negli ultimi anni della sua vita, Carnovsky visitò molte università statunitensi per promuovere i classici di Shakespeare presso le giovani generazioni di studenti. Morì nel 1992 nella sua casa di Easton, nel Connecticut, all'età di 94 anni, per cause naturali. Sua moglie Phoebe Brand morì nel 2004, all'età di 96 anni. La coppia, sposata dal 1941, ebbe un figlio, Stephen Carnovsky.