Antes de 2003, os membros da banda eram integrantes da banda de rock de garagem Parva, formada em 1997. Após o término de sua gravadora, a banda voltou às origens e adotou um som indie, ajudando-os a atingir popularidade no Reino Unido e posteriormente internacionalmente. Os membros da banda são torcedores do Leeds United, e resolveram mudar nome da banda inspirando-se no primeiro clube do então capitão do Leeds Lucas Radebe (Kaizer Chiefs Football Club).
O single de estreia, "Oh My God", foi lançado pela Drowned In Sound Records em maio de 2004 e esgotou as vendas em três dias, levando a banda à 66ª posição nas paradas de singles do Reino Unido. Apesar disso, foi o lançamento do segundo single "I Predict a Riot" que levou o grupo às mídias nacional e internacional, atingindo a 22ª posição da mesma parada em novembro.
Em 18 de fevereiro de 2005, a banda fez a apresentação de abertura do NME Awards. Uma nova e mais profissional gravação de "Oh My God" foi lançada em fevereiro, que atingiu a sexta posição. Seu álbum de estréia Employment foi lançado em 7 de março de 2005.
O DVD de Employment foi lançado em novembro de 2005, baseado em um documentário sobre a banda narrado por Bill Nighy. Também inclui os vídeos promocionais do álbum "Employment" e apresentações ao vivo.
No dia 26 de fevereiro de 2007 foi lançado o novo álbum do Kaiser Chiefs, intitulado Yours Truly, Angry Mob. Ele traz 13 novas faixas, algumas das quais já haviam sido tocadas ao vivo em shows da banda. O primeiro single é "Ruby", cujo vídeo promocional foi filmado pouco antes do Natal de 2006 e já pode ser visto na internet e televisão. No mesmo ano a faixa "Thank You Very Much" foi escolhida e usada como tema de abertura do jogo PES 2008 da Konami.[1]
O terceiro álbum, intitulado Off with Their Heads foi lançado dia 20 de outubro de 2008. O single "Never Miss A Beat" foi lançado dia 06 do mesmo mês. Em novembro vieram ao Brasil, se apresentaram em São Paulo no Planeta Terra Festival como uma das atrações principais. Um fato curioso, o tecladista Nick "Peanut" Baines teve de ser operado às pressas assim que desembarcou em São Paulo, devido a uma crise de apendicite e tocou junto com a banda acompanhado de perto por um médico e um enfermeiro.
Em 2009, a banda abriu alguns shows do Green Day nos Estados Unidos e do U2, na Europa.
No dia 2 de junho de 2011, a banda lançou o seu quarto álbum de uma maneira inovadora. The Future Is Medieval, traz uma proposta onde o fã pode montar o álbum a sua escolha. Foram divulgadas parcialmente vinte músicas, onde o ouvinte pode escolher dez, colocar na ordem que preferir e montar a capa com elementos representativos de cada faixa escolhida. O CD pronto seria então colocado a venda, junto de várias outras versões de outros fãs. A cada venda, o "produtor" do álbum ganha um euro. O primeiro single do álbum, chamado "Little Shocks", foi lançado no final de maio de 2011. Em seguida vieram "Man On Mars" e "Kinda Girl You Are". Em 16 de Março de 2012, a banda lança Start The Revolution Without Me, uma versão de The Future Is Medieval para a América do Norte, que vinha junto com o single "On The Run". Em 4 de Junho do mesmo ano, eles lançaram a coletânea Souvenir: The Singles 2004–2012, o primeiro álbum dos melhores êxitos. Nele continha o single inédito "Listen to Your Head".
No dia 4 de dezembro de 2012, o baterista do grupo, Nick Hodgson, revelou via Twitter que deixou a banda para seguir outros projetos particulares.[2]
No dia 7 de Fevereiro de 2013, é anunciado que Vijay Mistry, da banda Club Smith, vai se juntar aos Kaiser Chiefs como novo baterista na turnê europeia e projetos futuros da banda. No dia 26 de Novembro de 2013, foi anunciado o título do quinto álbum da banda: Education, Education, Education & War, com todas as músicas tocadas durante a turnê de 2013, além de novas composições.[3] O disco foi lançado oficialmente no fim de março de 2014.[4]
Em 7 de outubro de 2016, a banda lançou seu sexto álbum de estúdio, Stay Together.[5]