Der Roman erzählt die Lebensgeschichte von Harald Gerneweg, einem in behüteten Verhältnissen aufgewachsenen jungen Mann, der, gänzlich unpolitisch, mehr oder weniger zufällig zur SS kommt und williger Vollstrecker der "Endlösung" wird. Schicksalhaft verkettet mit ihm ist die Jüdin Anna. Sie, die einmal Haralds erste Schwärmerei war, wird mit ihrem Vater aus Berlin deportiert und überlebt das Minsker Ghetto, flieht zu den Partisanen und steht schließlich dem SS-Mann Gerneweg am Erschießungsgraben gegenüber. Der Prozess vor einem sowjetischen Militärgericht, in dem Anna als Zeugin aufgerufen wird, bringt die Protagonisten erneut zusammen.

"Das Lied des Polyphem" erschien ein Jahr vor Jonathans Littells Bestseller "Die Wohlgesinnten". In Anlehnung an reale Biografien zeichnet der Autor das Psychogramm eines Täters und stellt die Frage: Was macht Menschen zu Mördern? Die Prozesse gegen NS-Verbrecher zeigen auf: Eitelkeit, Geltungsdrang, Karrierestreben, Diensteifrigkeit und Obrigkeitsglauben gehörten ebenso zu den Triebfedern des Bösen wie Erwägungen materieller Art, wirtschaftliche Perspektivlosigkeit und Charakterschwäche.