Estudió en el seminario menor de Bordeaux, donde hizo su primera comunión y su confirmación. Allí vio por primera vez a Henri Lacordaire, dominico inspirador de gran parte del movimiento social cristiano en el siglo XIX. Aunque deseaba ser sacerdote, nunca pensó que fuera digno, por lo que estudió en la universidad secular, pero mantuvo su deseo vivo, con el apoyo de su hermana Rosy, quien ya estaba en el convento. Se graduó en 1850 y regresó a su pueblo natal. Se quedó con sus padres por un año y dedicó su tiempo a leer y escribir poesía. Trabajó como servidor público de 1851 a 1857.
Mientras estaba trabajando, era un miembro activo de la Sociedad de San Vicente de Paul, lo cual le ayudó a nutrir su deseo de entrar en la vida religiosa. Después de mucha reflexión, finalmente entró en el Noviciado Dominicano de Flavigny en Noviembre de 1857. Enfermó gravemente de nuevo y esto retrasó su profesión. Una vez curado, hizo profesión en presencia de su padre y dos hermanos y fue enviado a Toulouse para terminar los estudios. Vivió en los conventos de Chalais, Grenoble y St Maximin-la-Sainte-Baume, donde se familiarizó con María Magdalena a través de una profunda contemplación. El 10 de Mayo de 1862 hizo profesión solemne y el 8 de Febrero de 1963 fue ordenado sacerdote en Marseille a manos del Obispo Petagna. Continuó estudiando y fue finalmente asignado al convento de Bordeaux. Su ministerio sacerdotal se caracterizó por sermones inspirados, retiros, confesiones, mortificación y adoración del Santísimo Sacramento.
Fray Lataste se enteró por primera vez acerca de las penurias de las mujeres prisioneras en Pyrenees pero nunca tuvo un contacto directo con ellas hasta que se reunió con las prisioneras de Cadillac en Septiembre de 1864. Esta reunión, que fue inspirada por su profunda devoción a María Magdalena, llevó a la fundación de la congregación dominica de Betania. Él dirigió un retiro para las prisioneras que estaban sirviendo diferentes condenas por varios crímenes y percibió su profundo arrepentimiento y su fe.
Cuando las mujeres comenzaban a ser puestas en libertad, fray Lataste les ofrecía la oportunidad de consagrar sus vidas a Dios por medio de los votos religiosos. Ellas se convertirían en miembros de la Orden Dominicana, vestirían el mismo hábito de las Hermanas Dominicas, sin que nada las distinguiera. Con la asistencia de la Madre Dominique-Henri de las Hermanas de la Presentación de Tours, fray Lataste comenzó la Congregación de Hermanas Dominicas de Betania en 1866. Debe señalarse que la obra tuvo que soportar gran oposición, no sólo fuera de la Orden sino también dentro de ella.
Fray Lataste volvió a enfermarse en 1868. En esa ocasión, su enfermedad era tan seria que tuvo que dictar de manera oral las Constituciones de las Hermanas de Betania a la Madre Dominique-Henri, las cuales fueron completadas más tarde, después de su muerte, por fray Baker. Murió el 10 de Marzo de 1869 con un gran amor por sus hermanas y una gran gratitud a Dios. Fue inicialmente sepultado en el convento de las Hermanas en Frasne-le-Chateau. Su cuerpo fue trasladado posteriormente, cuando las hermanas se movieron a un nuevo convento en Montferrand-le-Chateau y fue trasladado de nuevo, esta vez a la capilla de las hermanas, cuando fue abierta la causa de beatificación, en 1937. Fue finalmente beatificado en 2012.
Tomado, con algunos cambios, de la biografía breve en la página de la Congregación, con vistas a la ceremonia de beatificación. En esta otra página dominica, el postulador de la causa presenta una breve historia del proceso.