교황이 되기 이전부터 로마 교구에서 일했다. 이전 교황 세르지오 2세로부터 추기경에 서임됐고, 847년 세르지오 2세가 선종하자 교황으로 선출되었다. 그는 미사 중에 성가를 부르도록 장려하였다. 846년 무슬림의 침략에 대비하여 로마를 재건하고 성벽을 보수하도록 하였다. 850년 4월 프랑크 국왕 로타리우스 1세의 아들인 루이 2세를 황제로 대관했다. 레오 4세와 베네딕토 3세 사이에 여교황 요한나가 2년 7개월 재위했다는 전설이 있으나 사실이 아니다.