Nace en Santa Eulalia de Suegos, Lugo. Estudió en el seminario de Lugo, de donde pasó luego a la Universidad de Compostela. Optó por la vida religiosa e ingresó el 25 de septiembre de 1842 en el colegio misionero de Ocaña, de la Orden de Predicadores, donde hizo el noviciado y la profesión religiosa, ordenándose de sacerdote el 23 de marzo de 1844. Destinado a las misiones de Tonkin, marchó a Manila con otros cinco compañeros, y aquí, a la espera de su destino misional, dio clases en la universidad. En 1845, por el tiempo de Pascua, llegó a Tonkin. Fue destinado al seminario para nativos de Luc-Thuy. Aquí realizó una buena labor a la que puso fin un motín popular que en 1847 saqueó la casa, dispersó a los alumnos y obligó al P. José María a marcharse. Luego de varias peripecias se pudo refugiar en Cao-Xa. Surge por entonces el decreto persecutorio contra el cristianismo del emperador Tu-Duc, que invitaba a apresar a los misioneros extranjeros, a los que calificaba con los peores epítetos, y se ofrecían trescientas onzas de plata a quien descubriese un misionero europeo. Sorteando los peligros el P. José María permaneció en el país, dispuesto siempre a ejercer su ministerio sacerdotal con el celo entusiasta que le distinguía.
El año 1849 se crea el nuevo vicariato del Tonkín Oriental, al frente del cual se puso a monseñor Martí, y se toma la costumbre de darle al vicario un coadjutor con rango de obispo para garantizar la continuidad del ministerio episcopal en la zona. La Orden de Predicadores propone al Papa que el primer obispo coadjutor con derecho a sucesión en el nuevo Vicariato sea nuestro futuro mártir y es consagrado ese mismo año en Doung-Xuyen. Muy pronto, sin embargo, en 1852 sucede al vicario como titular del vicariato y fija su residencia en Bui-Chu. No se llevó adelante la persecución con el mismo énfasis y por ello hubo unos años en que fue posible un trabajo apostólico relativamente tranquilo, aunque siempre había que usar de mucha prudencia. Dando pruebas de una gran entrega apostólica, hizo cuanto pudo por proseguir la tarea evangelizadora y robustecer la comunidad cristiana que le estaba confiada.
Pero en 1857 un nuevo decreto hizo revivir las medidas más drásticas contra los misioneros europeos y el cristianismo, amenazando de muerte a los jefes de poblados que no denunciaran la presencia de europeos en su población. El nuevo mandarín de Bui-Chu rodeó el poblado para impedir cualquier huida y se lanzó a capturar al obispo José María. Fue arrestado y se le arrebató la cruz y el anillo, que fueron destruidos. Luego se le sometió a prisión, se le invitó a apostatar o sería condenado a muerte. El siervo de Dios se mantuvo firme y sereno. El mandarín lo condenó a muerte, siendo ejecutada la sentencia por decapitación en Nam-Dinh el 20 de julio de 1857. Su cabeza fue expuesta en un palo para general escarmiento y luego junto con el cuerpo arrojada al río.
Fue canonizado el 19 de junio de 1988 por el papa Juan Pablo II junto con los 117 mártires de Vietnam, muertos por la fe entre los años 1745-1862, que habían sido beatificados a lo largo del siglo XX.