León era romano de nacimiento, pero probablemente de origen lombardo. Recibió su educación en el monasterio benedictino de San Martín, cerca de San Pedro. Las cualidades del joven llamaron la atención de Gregorio IV, quien le nombró subdiácono de la basílica de Letrán y más tarde cardenal-presbítero, titular de «Quatuor Coronati». A la muerte de Sergio II, el año 847, León fue elegido para sucederle en el pontificado. El nuevo Papa fue consagrado sin consultar al emperador, ya que los romanos, aterrados ante la perspectiva de una invasión sarracena, querían ver la cátedra de San Pedro ocupada por un hombre decidido y bueno, por más que la idea no sonreía a san León. Lo primero que hizo fue prepararse para el ataque de los sarracenos, y mandó reparar y reforzar las murallas de la ciudad, pues en los años precedentes, los sarracenos habían penetrado por el Tíber y se habían entregado al saqueo. La lista de las donaciones de san León a las diversas iglesias ocupa veinte páginas del Liber Pontificalis. Además, hizo llevar a Roma las reliquias de numerosos santos, entre las que se contaban las de los Cuatro Coronados, que el Papa mandó depositar en la basílica que había reconstruido en su honor. Pero, por grandes que hayan sido estas realizaciones, quedaron eclipsadas por la magna empresa de la construcción de una muralla alrededor de la colina Vaticana. Tal fue el origen del predio que desde entonces se conoce con el nombre de «la ciudad Leonina».
Sin embargo, san León sabía que las más poderosas murallas son incapaces de defender a un pueblo contra la cólera divina y que un clero negligente o rebelde corrompe a los fieles y provoca esa cólera. Así pues, el año 853 reunió en Roma un sínodo, cuyos cuarenta y dos cánones se referían, en gran parte, a la disciplina y los estudios del clero. El sínodo hubo de tomar también ciertas medidas contra el cardenal Anastasio, quien intrigaba con el emperador Lotario I para obtener la sucesión del pontificado. San León hizo también frente al violento y rebelde arzobispo Juan de Ravena y a su hermano, el duque de Emilia, que habían asesinado a un legado pontificio. El Papa se trasladó a Ravena, donde juzgó y condenó a muerte al duque y a dos de sus cómplices; pero como la sentencia fue dictada en el tiempo pascual, en que no se podía ejecutar a nadie, los asesinos escaparon con vida. San León tuvo también ciertas dificultades con el duque de la Gran Bretaña, Nemonos, quien se arrogó el poder de establecer una sede metropolitana en su territorio; con san Ignacio, patriarca de Constantinopla, el cual depuso al obispo de Siracusa; y con un soldado llamado Daniel, quien acusó falsamente al Pontífice ante el emperador de tramar una conspiración con los griegos y los francos. Por último, san León tuvo que defenderse también de Hincmar, arzobispo de Reims, el cual le había acusado de impedir que los clérigos depuestos apelasen a la Santa Sede. El enérgico Pontífice falleció en medio de esas pruebas, el 17 de julio del 855.
San León IV fue un hombre que supo combinar la liberalidad y la justicia con la paciencia y la humildad. Cierto que sus principales realizaciones fueron de orden político y temporal; pero ello se debió a los tiempos en que vivió y al hecho de que la historia olvida muy fácilmente la grandeza espiritual, o se preocupa muy poco por ella. San León fue un buen predicador, por lo que se le ha atribuido, aunque probablemente sin razón, una homilía sobre el «Cuidado pastoral». Por su entusiasmo por el canto en las iglesias romanas, san León fue un precursor de san Pío X. Todavía se conserva una carta que escribió sobre ese tema a un abad: «Ha llegado a nuestros oídos un rumor increíble ... Se dice que tenéis tal aversión por el armonioso canto gregoriano ... , que no sólo disentís de su práctica en esta diócesis tan próxima, sino en toda la Iglesia occidental y de todos aquéllos que emplean la lengua latina en las alabanzas al Rey del cielo ...» En seguida, el Papa amenazaba con la excomunión al abad, en caso de obstinarse contra «el supremo jefe religioso» en la cuestión del culto.
El pueblo atribuyó a san León varios milagros, entre otros el de haber detenido un gran incendio en el «borgo» romano con la señal de la cruz. A pesar de las objeciones de los historiadores, parece cierto que Alfredo el Grande, que no tenía entonces sino cuatro años, recibió en Roma, de manos de san León, el título honorario de «Cónsul Romano» (que no equivalía a la consagración regia). Algunos historiadores atribuyeron erróneamente a san León la institución del rito del "Asperges" antes de la misa dominical.
La principal fuente es el Liber Pontificalis con las notas de Duchesne. Pero también se encuentran ciertos datos en las crónicas de Hincmar de Reims y en las cartas del Pontífice.