Nato a Berlino nel 1898, si laureò nel 1921 con una tesi su Husserl e iniziò la sua carriera di insegnante a Freiburg in Brisgau, dove aveva studiato con Heidegger.
Intorno alla metà degli anni Venti entrò in contatto con l'Istituto per la Ricerca Sociale di Francoforte, diretto da Max Horkheimer e iniziò a collaborare con la rivista Zeitschrift für Sozialforschung, diventando uno degli esponenti di rilievo della cosiddetta "Scuola di Francoforte". A questo periodo appartengono i suoi primi lavori, orientati dapprima a conciliare il metodo fenomenologico-esistenzialista con il materialismo storico, poi allo studio dell'influenza dell'hegelismo sulla filosofia della società. Per il primo tentativo, degni di nota sono i Beiträge zu einer Phänomenologie des historischen Materialismus (Contributi a una fenomenologia del materialismo storico), pubblicati sulla rivista "Philosophische Hefte" nel 1928 e soprattutto il volume Hegels Ontologie und die Grundlegung einer Theorie der Geschichtlichkeit (L'ontologia di Hegel e la fondazione di una teoria della storicità), pubblicato nel 1932.
nel 1933, dopo l'ascesa al potere del nazionalsocialismo, Marcuse - di origine ebraica, noto per i suoi studi di orientamento marxista e per la sua vicinanza politica alle posizioni del Partito socialdemocratico - abbandonò la Germania e risidette per qualche tempo a Parigi, dove collaborò con Max Horkheimer alla stesura definitiva degli Studi sull'autorità e la famiglia (1936), una delle opere più importanti dell'Istituto per la Ricerca Sociale
Nel 1937 emigrò negli Stati Uniti, ottenendo dapprima una cattedra alla Columbia University di New York e successivamente all'università di Berkeley, in California, dove rimase sino al 1965.
Nel 1941 pubblicò il volume Reason and Revolution (Ragione e rivoluzione), nel quale poneva nuovamente al centro della sua ricerca il pensiero di Hegel e ne accentuava il carattere critico. La negatività e la critica gli apparivano, sul piano teorico, come il risultato dello scarto tra il dato di fatto e le esigenze della razionalità e, in tal senso, l'approccio critico e negativo gli sembrava accomunare Hegel e Marx, entrambi antagonisti del pensiero positivista, che invece si muoveva in direzione di una mera apologia dell'esistente. Marx ed Hegel, insomma, venivano contrapposti a Comte e ai positivisti soprattutto da un punto di vista metodologico (la dialettica veniva contrapposta ad una presunta "scienza positiva della società"), interpretati entrambi come esponenti di un pensiero autenticamente rivoluzionario, che esige dalla Storia una piena realizzazione della razionalità dialettica.
Gli anni successivi alla pubblicazione di Reason and Revolution furono anni cruciali sia per la storia personale che per la biografia intellettuale di Marcuse. Sul piano personale, percependo sino in fondo come la Seconda guerra mondiale fosse una lotta decisiva tra civiltà e barbarie, decise di impegnarsi attivamente e sino in fondo, collaborando con il servizio segreto militare statunitense (ciò che gli avrebbe evitato, nel dopoguerra, di incorrere, malgrado le sue posizioni apertamente marxiste, nella "epurazione" attuata dalla commissione McCarty nei confronti degli intellettuali "comunisti" presenti negli Stati Uniti). Per quanto riguarda la biografia intellettuale, invece, gli anni della guerra furono anni di intenso studio della psicoanalisi e delle opere di Freud in particolare.
La psicoanalisi apparve a Marcuse come una forma di sapere in grado di indicare in positivo le condizioni che rendono possibile la felicità umana. Queste condizioni di possibilità vengono studiate nel volume Eros and Civilisation (Eros e civiltà, 1955), un libro per molti aspetti straordinario, nel quale la psicoanalisi, come teoria scientifica e come pratica terapeutica, viene sottoposta ad analisi critica proprio attingendo a Freud. La tesi di Marcuse è che Freud abbia inteso smascherare la repressione degli istinti come meccanismo di controllo sociale, mentre la psicoanalisi dei suoi epigoni ha trasformato questo smascheramento in una mera tecnica per l'integrazione psicologica degli individui nella società esistente. Anziché muoversi in direzione di una liberazione degli istinti (e in primo luogo dell'eros), insomma, la scuola psicoanalitica avrebbe preferito sviluppare uno strumento terapeutico "distorsivo", capace soltanto di produrre conformismo.
Nel 1958 venne pubblicato un testo che per molti versi si avvicina ad Eros e civiltà: si trattava di Soviet Marxism (Marxismo sovietico), altra opera anticonformista e di rottura, con la quale Marcuse cercò di fare i conti con la tradizione del pensiero marxista e soprattutto con l'ideologia sovietica.
Il libro contiene un'analisi impietosa delle distorsioni ideologiche del pensiero di Marx operate soprattutto dagli ideologi sovietici e dai marxisti "ortodossi", preoccupati di trasformare la carica negativa e rivoluzionaria del pensiero di Marx in una "ideologia positiva". Non solo questa trasformazione in "ideologia positiva" comportava una vera e propria distorsione del pensiero critico marxiano, corretto con innesti non propriamente riconducibili a Marx (per esempio un forte nazionalismo russo). Più grave appariva a Marcuse il tentativo di giustificare ideologicamente meccanismi di sfruttamento e di oppressione sociale che assomigliavano sorprendentemente ai meccanismi di sfruttamento e di oppressione sociale presenti nel capitalismo statunitense. Mentre negli Stati Uniti questi meccanismi venivano giustificati in nome del "libero mercato", in URSS essi venivano giustificati, paradossalmente, in nome della teoria della liberazione dell'uomo dallo sfruttamento dell'uomo.
Approfondendo ed ampliando le analisi di questo testo, nel 1964 Marcuse pubblicò il volume One-dimensional Man. Studies in the Ideology of Advanced Industrial Society (L'uomo a una dimensione. L'ideologia della società industriale avanzata). Qui la critica viene condotta su un fronte ampio, non verso questo o quel sistema sociale esistente, ma verso l'ideologia tecnicista e massificante che secondo Marcuse accomuna il tardo-capitalismo occidentale e il "capitalismo di Stato" sovietico. La società industriale tende a schiacciare l'individualità personale attraverso la strumentalizzazione degli uomini (in senso letterale: la loro trasformazione in strumenti) e da sistemi di repressione più o meno raffinati. Meno raffinati i sistemi repressivi vigenti nei sistemi di tipo sovietico, nei quali il conformismo dell'uomo-massa viene imposto con un apparato statale opprimente e chiuso; più raffinati i sistemi repressivi vigenti nel mondo occidentale, basati sull'auto-affermazione del conformismo entro un'organizzazione sociale apparentemente tollerante. In entrambi i casi, tuttavia, l'esito è l'uniformazione e l'omologazione degli individui - la negazione più radicale della loro autentica libertà. In tale quadro, le uniche speranze di liberazione restano affidate, secondo Marcuse, agli emarginati sociali, poiché anche il proletariato appare, nella società tardo-industriale, sostanzialmente integrato nel sistema unidimensionante.
Questo testo, anche per le circostanze temporali della sua pubblicazione, esercitò una profonda influenza sui nascenti movimenti di contestazione antiautoritaria degli studenti, che non a caso ebbero inizio proprio a Berkeley nel 1965 e che sarebbero sfociati, in Europa, nella grande contestazione del 1968. Il libro del 1965 Repressive Tolerance (La tolleranza repressiva) divenne uno dei punti di riferimento teorici del movimento antiautoritario mondiale.