Nasceu em Alhandra, a 7 de Março de 1843 (embora na certidão de baptismo conste a data de 7 de Fevereiro, devido a um engano do funcionário de registo). Era filho de Caetano Martins, carpinteiro, e de Maria das Dores de Sousa Martins, doméstica, ambos de Alhandra. Sousa Martins permaneceu solteiro até à morte e, que se saiba, não deixou filhos. Teve duas irmãs, uma das quais enfermeira, a qual o acompanhou mais de perto. Aos 12 anos, tendo ficado órfão de pai aos 7, entrou como praticante para a farmácia de seu tio Lázaro Joaquim de Sousa Pereira - a Farmácia Ultramarina -, farmácia ainda hoje existente na Rua de S. Paulo, em Lisboa. Frequentou o Liceu Nacional de Lisboa e a secção de Ciências Naturais da Escola Politécnica. De manhã nas aulas, à tarde na farmácia e à noite dando explicações, assim completou Sousa Martins o seu curso de farmacêutico, em 1864, com as melhores classificações e os primeiros prémios. Mas já em 1861 se havia matriculado na Escola Médico-Cirúrgica de Lisboa, conseguindo sempre as mais elevadas classificações.

Concluiu o curso de Medicina em 1866, com apenas 23 anos, tendo defendido a tese O Pneumogástrico Preside à Tonicidade da Fibra Muscular do Coração, que, pelo seu impacte, originalidade e valor, viria a ser publicada e a constituir uma obra de referência. Em 1868 foi nomeado, por concurso (Decreto de 27 de Agosto), demonstrador da secção médica da Escola de Lisboa e nesse mesmo ano foi eleito sócio da Sociedade de Ciências Médicas.

Em 1872 foi designado lente da Escola Médico-Cirúrgica de Lisboa e, dois anos mais tarde, médico extraordinário do Hospital de S. José e anexos. Em 1874 viria a ser nomeado delegado de Portugal na Conferência Sanitária Internacional de Viena, por Decreto de 26 de Maio. De 1873 a 1876 desempenhou o cargo de secretário e bibliotecário da Escola Médico-Cirúrgica, cargo que abandonou por ter assegurado a cátedra de Patologia Geral, Semiologia e História da Medicina (criada por carta de lei de 10 de Maio de 1876). Em 1881 presidiu à comissão executiva e à secção de medicina da expedição científica à serra da Estrela e em 1883 foi nomeado director efectivo da Enfermaria de S. Miguel, do Hospital de S. José, enfermaria que hoje tem o seu nome.

Em 1897 foi delegado à Conferência Sanitária Internacional de Veneza, onde foi eleito para a vice-presidência. Regressou a Portugal com a saúde bastante debilitada e com poucos meses de vida, não obstante ter ainda procurado melhoras no Sanatório da Serra da Estrela, que ele próprio ajudara a criar. Desempenhou muitas e variadas comissões de serviço público, entre as quais avultam: secretário e relator da comissão encarregada de redigir a Farmacopeia Portuguesa, obra notabilíssima para a época e publicada em 1886; secretário e relator da comissão revisora do regulamento quarentário de 1860; membro da comissão sanitária encarregada de propor os necessários melhoramentos no Lazareto de Lisboa; membro da comissão sanitária encarregada de propor as medidas a tomar no caso de proliferamento, em Lisboa, da cólera asiática; membro da comissão encarregada pela administração do Hospital de S. José de reorganizar o Formulário de Medicamentos.

Foi ainda membro de múltiplas organizações, nacionais e internacionais, integrando várias comissões na Sociedade de Geografia de Lsboa; na Sociedade Farmacêutica Lusitana, da qual foi sócio honorário e benemérito; e na Sociedade de Ciências Médicas de Lisboa, da qual foi membro titular. Foi também sócio correspondente da Academia Real das Ciências de Lisboa, do Instituto de Coimbra, da Academia Real de Medicina da Bélgica, da Real Academia de Medicina de Madrid, Sociedade Antropológica Espanhola, da Sociedade Ginecológica Espanhola, da Academia Nacional de Medicina e Cirurgia de Cadiz, da Academia Provincial de Ciências Médicas de Badajoz, da Sociedade Real de Medicina Pública do Luxemburgo, da Sociedade de Médicas também do Luxemburgo, da Sociedade Real de Medicina Pública da Bélgica, do Instituto Vasco da Gama, de Nova Goa e da Sociedade Francesa de Higiene.
Foi sócio fundador da Associação dos Jornalistas e Escritores Portugueses; integrou a comissão executiva da Subscrição Nacional aquando do Ultimatum de 1890, tendo dele partido a proposta do nome de Adamastor para o navio adquirido por tal subscrição; contribuiu para a fundação do actual Instituto Bacteriológico de Câmara Pestana; foi Comendador da Ordem de Sant'Iago e da Ordem do Salvador, da Gréda.
Colaborou na Gazeta Médica de Lisboa, no Jornal da Sociedade Farmacêutica Lusitana, no Jornal da Sociedade das Ciências Médicas de Lisboa, na Revista Médica Portuguesa, na Revista Ocidental, na Medicina Contemporânea, no Diário ilustrado e na Enciclopédia Popular, tendo deixado uma vasta e notável bibliografia no campo da medicina.
Conhecido pela sua bondade e pelo seu enorme prestígio como médico, cientista e professor, José Thomaz de Sousa Martins é hoje tido como um "homem de ideias avançadas para a época em que viveu" e, simultaneamente, um "guia espiritual" a quem numerosos devotos solicitam a concessão dos mais diversos milagres e curas.
Faleceu em Alhandra, com 54 anos de idade, a 18 de Agosto de 1897, vítima de tuberculose pulmonar.
Ao tomar conhecimento da sua morte, o rei D. Carlos exclamou emocionado: "Apagou-se a mais brilhante luz do meu reinado". Para Egas Moniz, prémio nobel português, Sousa Martins foi um "notável professor que deixou, atrás de si, um nome aureolado de prelector admirável, de clínico, de orador consagrado, sempre alerta nas justas da Sociedade das Ciências Médicas". Os alunos de Sousa Martins veneravam-no e as suas lições, coligidas por antigos estudantes, eram ainda referência obrigatória depois da sua morte. Ensinava com entusiasmo, sem artifícios. Deleitava os alunos, captando-lhes a atenção, a estima e a admiração. O seu ensino era, para os discípulos, uma espécie de bússola que, como nenhuma outra, os orientava na ciência da vida. Diziam que das aulas de Sousa Martins não se saía apenas com o índice de capítulos que cada um teria que ler, entender e reter, à custa de muitas horas de trabalho. Saía-se ensinado. E, em Sousa Martins tinham não apenas um professor, mas também um amigo.