Charles Harrison Mason nasceu em 8 de setembro de 1864 perto de Bartlett, no Condado de Shelby, Tennessee, filho de Jerry e Eliza Mason, escravizados até pouco antes de seu nascimento. Cresceu como meeiro na lavoura de algodão, sem escola regular, numa América do Sul ainda marcada pelas cicatrizes recentes da escravidão.
Aos catorze anos quase morreu de tuberculose, na mesma epidemia que atingiu sua família e matou seu pai. A cura que atribuiu à oração da igreja o convenceu de que Deus o havia poupado para um chamado específico, e ele passou a se dedicar ao ministério batista.
Licenciado para pregar em 1893 pela Mount Gale Missionary Baptist Church, em Preston, Arkansas, Mason logo se envolveu com o movimento de santidade, que pregava uma vida de consagração após a conversão. A ênfase gerou atrito, e em 1896 ele foi expulso das associações batistas por pregar a santificação como experiência distinta da conversão.
Junto do pregador Charles Price Jones, fundou em 1897 a Church of God in Christ, num antigo galpão de descaroçamento de algodão em Lexington, Mississippi. O nome, segundo ele contava, veio como revelação enquanto caminhava por uma rua de Little Rock, Arkansas.
Em 1907 viajou a Los Angeles para investigar o Avivamento da Rua Azusa, liderado por William Seymour. Lá viveu o que descreveu como batismo no Espírito Santo, falando em línguas que não conhecia. A experiência o distanciou de Jones, que não aceitava as línguas como evidência necessária desse batismo, e a parceria de mais de dez anos se rompeu; Jones chegou a excluí-lo da associação de santidade que os dois lideravam.
De volta a Memphis, reorganizou sua ala da igreja em bases pentecostais. Entre 1907 e 1914 ordenou centenas de ministros brancos, num Sul segregado, porque a Church of God in Christ era então uma das poucas denominações pentecostais legalmente registradas nos Estados Unidos. Quando parte desses ministros formou sua própria denominação, em 1914, ele pregou na reunião de fundação dela.
A disputa com Jones pelo nome e pelo patrimônio da igreja foi parar na justiça, e somente em 1915 Mason garantiu à sua ala o direito legal ao nome e ao estatuto da Church of God in Christ. Historiadores também apontam que a insistência de Mason em fazer da glossolalia evidência obrigatória do batismo no Espírito, e não apenas um dom possível, foi um fator central na ruptura e um ponto de crítica de setores da própria santidade e do protestantismo tradicional, que viam a prática como emocionalismo.
Sua oposição pacifista à Primeira Guerra Mundial, motivada pela contradição de pedir a soldados negros que lutassem por uma liberdade que não desfrutavam em casa, atraiu a vigilância do governo americano; em 1918 chegou a ser preso no Mississippi, sob suspeita de sedição. Seu primeiro casamento, com Alice Saxton, terminou em divórcio em 1892; Mason se casou ainda mais duas vezes, com Lelia Washington e, depois da morte dela, com Elsie Washington.
Bispo até morrer em 1961, em Detroit, viu a igreja que fundara num galpão de algodão crescer para milhares de congregações em dezenas de países. A Church of God in Christ se tornou a maior denominação pentecostal afro-americana dos Estados Unidos, e seu exemplo de reunir negros e brancos no altar, em plena era Jim Crow, ainda desafia igrejas a atravessar as fronteiras que a própria história ergueu.