Psychiater Anne Dubreuilh leeft voor en door anderen: haar veel oudere man, haar achttienjarige dochter Nadine en haar Amerikaanse minnaar Lewis Brogan. Als ze Lewis verliest, stort haar geborgen wereld in elkaar en overweegt zij een eind te maken aan haar bestaan; uiteindelijk kiest zij echter voor het leven. In de wereld van Henri Perron, uitgever van de verzetskrant l'Espoir, speelt de liefde eveneens een voorname rol, maar zijn relaties - onder andere met Nadine, die van hem in verwachting raakt en met wie hij later trouwt - zijn nooit het belangrijkst. Wat voor Henri telt is het politieke engagement, dat zal leiden tot de bevrijding van de mens. Het hoofdthema van 'De mandarijnen' is de vraag naar de positie van de linkse intellectueel in de maatschappij; net als de Chinese mandarijn is hij afgesneden van het volk dat hij meent te leiden.
