A localidade de Serra da Raiz teve sua origem datada a partir do século XVIII com a concessão de sesmarias. A partir desse período foi construída uma rústica indústria de beneficiamento e fiação de algodão (bolandeira), pelo senhor Bento José da Costa, um dos primeiros moradores da povoação. Essa construção favoreceu para o desenvolvimento e crescimento do então povoado. Posteriormente foram construídas a Casa Grande, a Senzala, um curral e uma pequena Capela feita de taipa dedicada ao Senhor do Bonfim.

A pequena capela do Senhor do Bonfim foi construída numa parte de terra doada pelos moradores da localidade e elevada a categoria de paróquia no ano de 1870, pelo Padre Emídio Fernandes. Contudo, nos arquivos da Paróquia da Serra da Raiz está registrado como primeiro pároco o padre Sebastião Bastos de Almeida.

A região que compreende o município da Serra da Raiz é vinculada ao histórico episódio ocorrido na época da colonização da Paraíba no ano de 1574 denominado de Tragédia de Tracunhaém. Segundo historiadores, foi nessa região do município da Serra da Raiz que o índio Ininguaçu, teria arregimentado parte de sua tribo em busca de sua filha Iratembé, capturada por um mameluco que transitava na região da Serra da Copaoba. Os índios que eram da nação indígena dos potiguaras foram em direção ao Engenho Tracunhaém do proprietário Diogo Dias, na região que atualmente compreende a cidade pernambucana de Goiana, e lá teria ocorrido um grande massacre contra os moradores que viviam no engenho.

Por esses fatos o município de Serra da Raiz é considerado por alguns historiadores como um dos primeiros aldeamentos da então Capitania da Paraíba, pois logo após a tragédia de Tracunhaém os colonizadores portugueses junto com os índios Tabajaras derrotaram a tribo Potiguara do então aldeamento da Copaoba, região que atualmente compreende os municípios de Serra da Raiz, Belém, Caiçara, Duas Estradas e Sertãozinho, e avançaram na colonização da Paraíba.

O nome do município, Serra da Raiz, derivou-se de uma raiz de propriedades medicinais que se encontrava na localidade, a qual foi muito utilizada no passado pelos silvícolas. No entanto, em divisões territoriais datadas de 31 de dezembro de 1936, o distrito passa a se chamar Barra da Raiz. Porém, com o decreto-lei estadual, datado de 15 de novembro de 1938, o topônimo do então distrito de Serra da Raiz foi alterado para Cupaoba, em alusão a primitiva denominação da região, mas anos depois voltou a denominar-se novamente de Serra da Raiz. Segundo a tradição oral um antigo religioso chamado Frei Herculano teria pedido a modificação do nome da vila para Jerusalém, porém o nome não foi mantido.

Antes da emancipação político-administrativa Serra da Raiz disputou acirradamente contra a cidade de Caiçara o domínio geopolítico da região. Esta rivalidade acarretou uma parcial paralisação do progresso dos dois povoados, fazendo com que os territórios da Serra da Raiz e de Caiçara fossem administrados pelo município de Guarabira até o ano de 1908, quando Caiçara foi emancipada e a Serra da Raiz ficou sendo figurada como distrito de Caiçara até o ano de 1959 quando foi definitivamente emancipada pela lei estadual nº 1962, de 21 de janeiro de 1959. Entre 1938 e 1943, ainda distrito de Caiçara, a localidade denominou-se Cupaoba