Nació el año 1774, aproximadamente, en Nink-Cuong y se crió en la casa misional de Tien-Chu, donde se preparó para ser catequista. Llegado a la edad adulta no se inclinó por el sacerdocio pero tampoco contrajo matrimonio, y se dedicó por entero a la tarea catequética.
Asignado primero como compañero del P. Nanh, auxilió a éste en su tarea pastoral y misionera y, tras su muerte, lo llamó a su lado el obispo santo Domingo Henares, con quien hizo varios viajes misioneros en los que fueron acompañados por san Francisco Chieu. Llegada la persecución del año 1838, mientras que santo Domingo Henares y san Francisco Chieu fueron a refugiarse en Kien-Lao, José se quedó en Tien-Chu para sostener la fe de los fieles. Para entonces José ya había sido admitido en la Tercera Orden seglar de Santo Domingo.
El 28 de mayo de 1838 hubo un registro general en el pueblo y se obligó a todos los varones a presentarse. Se le preguntó si era sacerdote o dirigente cristiano, y pudo responder que no, pero al ser invitado a pisar la cruz se negó. Entonces fue arrestado y llevado a la capital donde fue bárbaramente apaleado para que apostatara y dijera el paradero de santo Domingo Henares. Guardó silencio. Llevado a la cárcel, contrajo una fortísima disentería pero un médico lo alivió. Nuevamente comparece ante el tribunal, que manda apalearlo para que apostate e intentan que, materialmente al menos, pise la cruz, pero José encogía las piernas y hacía inútil el intento. Devuelto a la cárcel lleno de magulladuras y llagas le volvió la disentería; los cuidados que le proporcionaron varias cristianas no surtieron efecto y murió de agotamiento en la cárcel de Nam-Dinh el 4 de julio de 1838. Fue canonizado el 19 de junio de 1988 por Juan Pablo II.