Eduard Charlemont werd in 1848 geboren in Wenen, de hoofdstad van het Oostenrijkse rijk. Zijn vader, Matthias Adolf Charlemont, was ook een schilder, gespecialiseerd in het schilderen van miniatuurportretten.

Zijn jongere broer Hugo Charlemont (1850–1939) was een even beroemde impressionistische schilder. Op vijftienjarige leeftijd exposeerde Charlemont zijn werken voor het eerst aan de Academie voor Schone Kunsten Wenen, waar hij beeldende kunst studeerde. Op dezelfde leeftijd werd Eduard Charlemont ook ingehuurd door een meisjesschool om tekenles te geven.

Na zijn afstuderen aan de Academie voor Schone Kunsten in Wenen reisde Charlemont naar vele landen in Midden-Europa en vestigde zich uiteindelijk in Parijs, waar hij de volgende dertig jaar woonde.

In Parijs won hij verschillende keren de eerste prijs van de Parijse Salon, een jaarlijkse tentoonstelling van de Franse Academie voor Schone Kunsten (Frans: Académie des Beaux-Arts).

Het bekendste werk van Charlemont is The Guardian of the Seraglio, algemeen bekend als The Moorish Chief, waarin een Moorse zwaardvechter een serail bewaakt (onderdeel van een typisch rijke Arabische villa, waar vrouwen verbleven als vreemden het huis binnenkwamen).

In 1899 won hij de gouden medaille op de Exposition Universelle, een Wereldtentoonstelling in Parijs. Charlemont stond ook bekend om zijn muurschilderingen. Hij schilderde drie van de muurschilderingen van het Burgtheater (het Oostenrijkse Nationale Theater in Wenen en een van de belangrijkste Duitstalige theaters ter wereld) met een totale lengte van ongeveer 55 meter.

Hij stierf in Wenen in 1906.