Veio ao mundo em Dalías (Almeria) no dia 22 de Julho de 1864. Dele disse o seu avô materno: “Eu morrerei, mas quem viver verá que este menino será um homem importante e que valerá muito para Deus”.
Frequentou a escola da freguesia natal e manifestava o gosto de ler as vidas dos santos. Um seu tio, Cônego, mandou-o estudar num Instituto de Bacharelato, mas descobrindo nele sinais de vocação sacerdotal, enviou-o para o Seminário diocesano de Almeria. No Seminário de São Cecílio de Granada havia de terminar os estudos de filosofia, teologia e direito canônico. Foi ordenado no Seminário diocesano da Imaculada Conceição e de São Dâmaso, de Madrid, no dia 24 de Setembro de 1887, tendo sido incardinado nesta diocese. Na Capela da Virgem do Bom Conselho, na Catedral de Santo Isidro, celebrou a sua primeira Missa em 8 de Outubro seguinte. Em Toledo, obteve a Licenciatura em Teologia, em 1888, e Direito Canônico, em 1897. Pela manhã, entrava na igreja para rezar, dedicava-se à catequese das crianças e a todos impressionava pela sua austeridade, pobreza e caridade para com os pobres.
Enquanto desenvolvia várias atividades de carácter diocesano, não deixava de atender as pessoas no confessionário, catequese, "escolas dominicais", ao mesmo tempo que se dedicava a acompanhar diversos grupos em necessidade espiritual.
Peregrinou a Roma e à Terra Santa, deixando-se impressionar de modo especial pelos túmulos de Pedro e Paulo e Santo Sepulcro e Calvário.
Admirando de modo particular a Companhia de Jesus e chamando-se a si mesmo “Jesuíta por afeição”, entrou no noviciado da Companhia em Granada e fez os primeiros votos em 12 de Outubro de 1908; trabalhou depois em Sevilha, onde desenvolveu grande atividade apostólica; depois de três anos em Manresa (Barcelona), voltou a Madrid onde, em 2 de Fevereiro de 1917, emitiu os votos perpétuos.
Madrid foi o seu novo campo de apostolado, sendo procurado por muita gente, que atraía pelas suas pregações, porque vivia o que pregava. O seu lema era: “Fazer o que Deus quer e querer o que Deus faz”.Organizou e orientou diversas missões populares em Madrid. Quis fundar um instituto, “Os Discípulos de São João”, mas foi impedido de o fazer, aceitando a proibição com estas palavras: “não procuro outra coisa além do cumprimento da santíssima vontade de Deus”.
Gozava de dotes místicos e de graças espirituais sobrenaturais, da profecia e da visão. Armavam-lhe ciladas para o apanharem em situações difíceis, mas acabava por impressionar a todos, mesmo os que o queriam ver envolvidos em escândalos e inquietações. Foi formador de muitos cristãos que sofreram o martírio no tempo da perseguição religiosa.
Pressentiu a sua morte e despediu-se dos seus amigos. Debilitado na sua saúde pelo imenso trabalho realizado, foi transferido para Aranjuez, para aí repousar. Mas tudo estava para terminar e José Maria exclamou: “Senhor, se queres levar-me agora, estou preparado”. Faleceu em 2 de Maio de 1929. Em Madrid, todos diziam: “morreu um santo”. Por isso, milhares de pessoas acorreram ao seu funeral; os seus restos mortais foram trasladados para a casa Professa de Madrid, em 1953.
João Paulo II beatificou-o em 6 de Outubro de 1985, em cerimônia celebrada em Roma.
Canonizado em Madrid, onde desenvolveu grande parte do seu ministério e ação sacerdotais e pastorais, no dia 4 de Maio de 2003, pelo mesmo Pontífice, João Paulo II.