O vocalista da banda, Nate Reuss revelou que música foi gravada para fazer parte do álbum 'Some Nights' - lançado em 2011 - mas eles resolveram não colocar no disco. Quando recebeu a proposta para gravar uma música para série, ele escolheu a aquela e retrabalhou nela para um melhor resultado.
"Ficamos muito e deixamos [a música] de lado até Lena Dunham ligar. Eu acabei re-escrevendo o refrão e na verdade gosto mais que o sample agora!" disse o vocalista para a revista Rolling Stone.