Eduard Charlemont nacque a Vienna, capitale dell'Impero austriaco, nel 1848. Anche suo padre, Matthias Adolf Charlemont, era un pittore, specializzato nella pittura di ritratti in miniatura.

Suo fratello minore Hugo Charlemont (1850-1939) fu un pittore impressionista altrettanto famoso. All'età di quindici anni Charlemont espone per la prima volta le sue opere all'Accademia di Belle Arti di Vienna, dove studia belle arti. Alla stessa età Eduard Charlemont venne assunto anche da una scuola femminile per insegnare disegno.

Dopo essersi diplomato all'Accademia di Belle Arti di Vienna, Charlemont viaggiò in molti paesi dell'Europa centrale e infine si stabilì a Parigi, dove visse per i successivi trent'anni.

A Parigi, vinse più volte il primo premio del Salon di Parigi, una mostra annuale organizzata dall'Accademia francese di belle arti (francese: Académie des Beaux-Arts).

L'opera più famosa di Charlemont è Il guardiano del serraglio, ampiamente noto come Il capo moresco, raffigurante uno spadaccino moresco a guardia di un serraglio (parte di una tipica ricca villa araba, dove alloggiavano le donne quando estranei entravano in casa).

Nel 1899 vinse la medaglia d'oro all'Exposition Universelle, l'Esposizione Universale tenutasi a Parigi. Charlemont era noto anche per i suoi murales. Dipinse tre dei murali del Burgtheater (il Teatro Nazionale Austriaco di Vienna e uno dei teatri di lingua tedesca più importanti al mondo) per una lunghezza totale di circa 55 metri.

Morì a Vienna nel 1906.