John Campbell nasceu em Edimburgo em março de 1766. Perdeu o pai aos dois anos e a mãe aos seis, e foi criado por um tio. Estudou na Royal High School, ao lado do futuro escritor Walter Scott, e trabalhou como aprendiz de ourives antes de seguir para o ministério cristão.
Em Edimburgo, ele fundou a Sociedade dos Tratados Religiosos da Escócia em 1793. Nos anos seguintes, ao lado do pregador itinerante James Haldane, também ajudou a multiplicar rapidamente as escolas dominicais na região. Tornou-se pastor da capela congregacional de Kingsland, em Londres, em 1802, e usou o púlpito para despertar interesse pelas missões na África, então praticamente desconhecida dos ingleses.
Em 1812, já diretor da Sociedade Missionária de Londres, foi enviado ao Cabo da Boa Esperança para inspecionar as estações da missão no sul da África. Partiu da Cidade do Cabo em 1813 e viajou milhares de quilômetros por Bethelsdorp, Graaff-Reinet, Griquatown e o território dos batlhaping, liderados pelo chefe Mothibi.
De volta a Londres, publicou Travels in South Africa (1815), um dos primeiros relatos detalhados sobre os povos do interior da região que hoje corresponde a Botsuana e à África do Sul. O livro despertou grande interesse do público britânico pelas missões africanas.
Entre 1819 e 1821, fez uma segunda viagem, agora acompanhado do missionário John Philip. Nessa visita, orientou o jovem Robert Moffat a iniciar um trabalho entre o povo batswana. Moffat se instalou primeiro em Dithakong (também chamada Lattakoo) e só anos depois, em 1825, transferiu a estação para Kuruman, que se tornaria um dos postos missionários mais influentes do sul da África no século 19.
Como muitos missionários de sua geração, Campbell misturava o anúncio do evangelho a uma confiança quase acrítica na civilização europeia, tratando costumes africanos como atraso a ser corrigido. Já historiadores do século 19, como George McCall Theal, apontavam outro limite de Campbell como escritor: a simplicidade e a credulidade de seus relatos, que tornavam pouco confiável boa parte do que ele descrevia sobre episódios que não presenciou com os próprios olhos. Esses dois pontos são reconhecidos hoje como limites históricos de sua obra.
De volta à Inglaterra, tornou-se um dos primeiros escritores a produzir literatura missionária para crianças, além de editar por anos a revista The Youth’s Magazine. Seus relatos de viagem ajudaram a despertar em toda uma geração o interesse pela evangelização do continente africano.
Campbell morreu em Londres em 4 de abril de 1840, aos 74 anos, depois de décadas dedicadas à causa das missões.