Samuel Zwemer nasceu em 12 de abril de 1867, em Vriesland, Michigan, o décimo terceiro de quinze filhos de um pastor imigrante holandês. Cresceu numa casa de fé simples, cercado de irmãos que se tornariam professoras e pastores, um ambiente que moldou cedo seu senso de vocação.
Em 1887, no Hope College, ouviu o apelo de Robert Wilder, do Movimento Voluntário Estudantil, para levar o evangelho a povos ainda sem acesso a ele. Ordenado pastor pela Igreja Reformada da América em 1890, embarcou para o Oriente Médio decidido a alcançar o mundo muçulmano.
Ao lado de James Cantine, cofundou a Missão da Arábia em 1889, ainda como estudante de seminário, e passou anos em Basra e depois na ilha de Bahrein, então sob domínio britânico no Golfo Pérsico. Ali combinava pregação nas ruas, distribuição de literatura bíblica e cuidado médico simples, buscando conquistar confiança onde o cristianismo era praticamente desconhecido.
Em 1896 casou-se com Amy Wilkes, enfermeira que dividia com ele a vocação e as dificuldades do campo. Oito anos depois, em 1904, duas de suas filhas pequenas morreram de disenteria em Bahrein, uma dor que marcou profundamente o casal sem afastá-los do chamado.
Zwemer viu poucos muçulmanos professarem publicamente a fé cristã, um fato reconhecido por historiadores das missões: em quase quatro décadas de trabalho direto, o número de conversões visíveis foi pequeno. Ele próprio reconhecia que seu papel maior seria despertar a igreja, não contar convertidos.
Foi essa convicção que o levou a fundar, em 1911, a revista acadêmica The Moslem World, e a escrever dezenas de livros sobre o Islã e o desafio de evangelizá-lo, entre eles Arabia: The Cradle of Islam e The Glory of the Cross.
Depois de anos de serviço no Egito, tornou-se professor de história das religiões e missões cristãs em Princeton, de 1929 a 1937, formando uma geração de missionários e pesquisadores. Seus escritos da época, marcados pelo tom polêmico comum ao seu tempo em relação ao Islã, hoje são lidos reconhecendo tanto seu zelo quanto os limites do diálogo inter-religioso naquela geração.
Amy morreu subitamente de problemas cardíacos em 1937, depois de mais de quarenta anos de casamento. Em 1940 Zwemer casou-se novamente, com Margaret Clarke, que adoeceu ainda nos primeiros anos da união e morreu em 1950.
Morreu em 2 de abril de 1952, em Nova York, dois anos depois da morte de Margaret, logo após discursar três vezes num único dia num encontro da InterVarsity Christian Fellowship, quando sofreu um ataque cardíaco fatal, ainda falando sobre o que chamava de campos missionários desocupados. Seu legado permanece em centros de estudo que levam seu nome e no chamado renovado à igreja para pensar as missões entre os muçulmanos com rigor e amor.