Juan I era toscano de nacimiento. Desde muy joven abrazó la carrera eclesiástica en Roma, donde llegó a ser archidiácono. A la muerte de san Hormisdas, el año 523, fue elegido para sucederle en el trono pontificio. Teodorico el godo había gobernado Italia durante treinta años. Aunque era un arriano convencido, siempre trató con respeto a sus subditos católicos. Pero su actitud tolerante cambió por aquella época, en parte porque había descubierto una correspondencia desleal entre los principales miembros del senado romano y Constantinopla, y en parte a causa de las severas medidas que había dictado contra los arrianos el emperador Justino I. Los arrianos de Oriente apelaron a Teodorico, quien decidió enviar una embajada a negociar con el emperador.
El Papa Juan, que dirigía la embajada muy contra su voluntad, fue recibido con entusiasmo en Constantinopla; el Emperador y todo el pueblo salieron a su encuentro, y el Papa ofició en la catedral el día de Pascua. Los relatos sobre la misión de Juan I y la forma en que la desempeñó varían mucho. Sin embargo, parece que el Papa indujo al Emperador a tratar con mayor moderación a los arrianos para evitar la persecución de los católicos en Italia. Pero, durante la ausencia de Juan I, el resentimiento de Teodorico contra los católicos había ido en aumento. El monarca había condenado a muerte al filósofo san Severino Boecio y a su suegro Símaco, que habían sido acusados de alta traición e interpretó la amistad del Papa y el emperador como prueba de que tramaban una conspiración contra él. En cuanto el Papa llegó a Ravena, que era la capital, el emperador le mandó encarcelar. Juan I murió pocos días después en la prisión, a consecuencia de los malos tratos que había recibido.
El texto y las notas de la edición de Duchesne del Líber Pontificalis, vol. I, pp. 275- 278, dicen prácticamente todo lo que se sabe sobre Juan I. Véase Acta Sanctorum, mayo, vol. VI.