José María Rubio Peralta nació en Dalías (Almería) el 22 de julio de 1864 en una familia muy numerosa. Cursó los estudios eclesiásticos en el Seminario de Granada y en el de Madrid. Aquí, en 1887, fue ordenado presbítero. Ejerció su ministerio sacerdotal en las parroquias de Chinchón y Estremera. Fue profesor del Seminario, notario de la Curia y Capellán de las Monjas Bernardas.
Siendo sacerdote diocesano secular, tenía una gran admiración por la Compañía de Jesús. Se llamaba a sí mismo «jesuita de afición». Toda su vida se centraba en «cumplir la voluntad de Dios». Y el 11 de octubre de 1906 entró en el noviciado de la Compañía de Jesús de Granada. Hizo sus primeros votos el 12 de octubre de 1908 y permaneció otro año en Granada para profundizar en sus estudios teológicos mientras a la vez predicaba misiones populares y daba tandas de ejercicios espirituales. Seguidamente trabajó en obras apostólicas en la residencia jesuítica de Sevilla, dirigiendo la Congregación mariana de jóvenes, la Comunión reparadora de los militares, el Apostolado de la Oración, las Conferencias de San Vicente de Paúl y una escuela vespertina para obreros. Atendía también el confesionario de la iglesia y la predicación a los miembros de la Adoración nocturna. Era exigente pero siempre con dulzura. «Se cazan más moscas con una gota de miel que con un barril de vinagre», decía con gracia. En septiembre de ese año se trasladó a Manresa (Barcelona) para su «tercer año de probación» desde donde fue destinado a Madrid y aquí, el 2 de febrero de 1917 emitió sus votos perpetuos.
Desde entonces Madrid fue el campo de su intenso apostolado. Vivía en la residencia jesuítica de la calle de La Flor y era buscado y requerido por todo el mundo. Con sotana y roquete, la cabeza ligeramente inclinada, destellaba tal bondad que atraída sobrenaturalmente. Aunque no hablaba retóricamente como otros oradores, sin embargo sus sermones atraían a la gente y convencía porque vivía lo que predicaba. Repetía como lema: «Hacer lo que Dios quiere y querer lo que Dios hace». Organizó, predicó y atendió personalmente a distintas misiones populares en pueblos pequeños de Madrid. Vivió una temporada de escrúpulos pero eso no le impidió dedicarse a promover obras de apostolado que hicieran bien a cuanta más gente pudiera, por eso su fama de santidad era extraordinaria en todo el Madrid de su tiempo. Intentó fundar «los discípulos de San Juan» e incluso fue sometido a un registro policial acusado de crear un nuevo instituto religioso. Cuando los superiores le prohibieron esta actividad, lo aceptó de tan buena forma diciendo: «No busco más que cumplir la santísima voluntad de Dios».
Formado en la escuela de los Ejercicios Espirituales de San Ignacio de Loyola, con una profunda vida espiritual, alimentada sobre todo en el amor a la Eucaristía y en la devoción al Corazón de Jesús, se dedicó: a reconciliar penitentes en el confesionario, a la predicación del evangelio de forma sencilla, a la atención pastoral y social en los barrios más pobres de Madrid y a la formación de seglares para que actuaran como cristianos en la familia, en su profesión y en la sociedad. Promovió la obra de las «Marías de los Sagrarios». Ya en su tiempo se le llamó: «el apóstol de Madrid».
Fue beatificado por SS Juan Pablo II el 6 de octubre de 1985, y canonizado por el mismo papa el 4 de mayo de 2003.