João nasceu em Túsculo, uma província da Itália. Foi eleito sucessor do papa Hormisda, em 523, e costuma ser identificado como João Diácono, autor da epístola "Ad senartun", importante para a história da liturgia batismal.
É reconhecido também pela autoria de "A fé católica", transmitida pelos antigos, entre as obras do filósofo e mártir são Severino Boécio, cujo trabalho exerceu grande influencia sobre santo Tomás de Aquino.
O papa Hormisda e o imperador Justino tinham feito cessar o cisma entre Roma e Constantinopla, que se iniciara em 484, com o então imperador Zenon, por meio do que parecia impossível: um acordo entre católicos e arianos. Com esse esquema obtivera bons resultados políticos, pois os godos eram arianos.
Porém, no final de 524, o imperador Justino publicou um decreto ordenando o fechamento das igrejas arianas de Constantinopla e a exclusão dos arianos de toda a função civil e militar.
Roma era, então, governada pelo imperador Teodorico, o Grande, o rei dos bárbaros arianos que tinham invadido a Itália. Ele obrigou o papa João I a viajar a Constantinopla para solicitar ao imperador Justino a revogação daquele decreto.
Apesar de o imperador Justino ter-se ajoelhado perante o primeiro sumo pontífice a pisar em Constantinopla, ele não conseguiu demovê-lo da perseguição aos arianos. A solicitação foi atendida apenas em parte, pois o imperador concordou em devolver as igrejas confiscadas aos arianos, mas manteve o impedimento de os arianos convertidos ao catolicismo poderem retornar ao arianismo.
Com o fracasso de sua missão, o papa João I despertou a ira do imperador Teodorico. Assim, quando colocou os pés em Roma, foi detido e aprisionado em Ravena, onde morreu em 18 de maio de 526. Foi, então, declarado mártir da Igreja.
