Foi fundada em 5 de agosto de 1585 com o nome de Nossa Senhora das Neves, a santa do dia em que foi firmada a aliança com os Tabajara (5 de agosto) (depois da aliança com os Tabajara, demorou ainda 3 meses para ser fundada, de fato, a cidade). João Pessoa já nasceu com o status de cidade, jamais vivendo a condição de vila, fato esse ocorrido porque foi fundada pela cúpula da Fazenda Real numa Capitania Real da Coroa Portuguesa.^{[carece de fontes?]}

Com o passar do tempo, foi recebendo várias denominações: Filipeia de Nossa Senhora das Neves, em 1588, homenageando o rei Filipe II de Espanha, quando da União Ibérica, período em que o Reino de Portugal foi incorporado à coroa espanhola. Durante a ocupação holandesa, entre 1634 e 1654, designou-se Frederikstad (Cidade Frederica), em homenagem ao príncipe de Orange, Frederico Henrique.

Com a reconquista portuguesa, passou a chamar-se Cidade da Parahyba. Por conta de uma visita temporária de D. Pedro II do Brasil à cidade em fins de 1859, recebeu provisoriamente o título de Imperial Cidade.

Centro Histórico é patrimônio cultural e artístico do Brasil.

Sua denominação atual, João Pessoa, é uma homenagem ao político paraibano João Pessoa, assassinado em 1930 na cidade do Recife, quando era presidente do estado e concorria, como candidato a vice-presidente, na chapa de Getúlio Vargas. O fato causou grande comoção popular, sendo praticamente o estopim da Revolução de 30, embora se discuta se realmente houve motivação política no ato, que foi executado por João Duarte Dantas, cujo escritório fora invadido por tropas governamentais, tendo sido suas cartas amorosas à professora Anayde Beiriz trazidas a público.

A Assembleia Legislativa Estadual aprovou a mudança do nome da capital em 4 de setembro de 1930. Há algum tempo, cidadãos pessoenses discutem a possibilidade de rever a homenagem e substituir o nome de João Pessoa por outro, entre os quais, figuram "Paraíba", "Filipeia" e "Cabo Branco",^[12] sendo que alguns movimentos até manifestam apoio à ideia de um plebiscito para tal nomenclatura ou uma consulta popular, como faz atualmente o Coletivo Cultural Anayde Beiriz, projeto em andamento do Movimento Paraíba Capital Parahyba;^[12][13] entre outros argumentos, alega-se que a mudança de nome (assim como a alteração da bandeira estadual), em 1930, foi realizada em um momento de comoção e de instabilidade social, quando vários adversários políticos do grupo de João Pessoa foram presos e mortos. Acrescenta-se ainda que não há consenso sobre as virtudes de pessoa e de gestor público as quais confeririam o mérito ao ex-presidente da Paraíba (na época, denominação para o cargo de governador) para tal homenagem. De outra parte, os defensores da manutenção do nome argumentam que João Pessoa foi político exemplar e combateu o coronelismo e as oligarquias.