Grinderman surgió cuando Nick Cave estaba escribiendo material en 2005 para el álbum Abattoir Blues/The Lyre of Orpheus de Nick Cave & The Bad Seeds. Formando equipo con Martyn Casey (bajo), Warren Ellis (violín y guitarra) y Jim Sclavunos (batería), la banda se metió en un estudio de Londres en 2006 y comenzó una sesión maratoniana de composición y maquetas. Con el objetivo de recrear un sonido más crudo y primario, como el del célebre proyecto post-punk de Cave The Birthday Party, el contenido lírico y musical de Grinderman divergía significativamente del anterior trabajo de Nick Cave con The Bad Seeds.
