Nakon smrti Pija XII. godine 1958. Kardinalski zbor sasvim je nenadano na konklavama 28. listopada 1958. izabrao za njegova nasljednika Angela Giuseppea Roncallija. Novi papa, rođen u Bergamu 1881. u skromnoj seljačkoj obitelji, u vrijeme izbora za papu bio je venecijanski patrijarh, a prije toga je bio u službi papinske diplomacije, kao papinski nuncij u Bugarskoj, Turskoj i Francuskoj. Javnost je bila snažno pogođena različitim slikama dvojice Papa. Hijeratskog prvaka Crkve dostojanstvenog držanja naslijedio je vedri i nasmijani Papa, kojem je vrlo brzo dodijeljen naziv “Papa dobri”. Tisak i televizija brzo su prigrlili novog Papu i tradicionalno se štovanje prema papi, koje se uvelike povećalo u doba Pija XI. i Pija XII., pretvorilo u pravu i istinsku planetarnu popularnost.
Jasnu razliku u odnosu na prethodnika predstavljao je već programatski izbor imena Ivan XXIII., kojim je prekinut niz papa s imenom Pio. Zbog imena koje je uzeo, Ivan, uspoređivalo ga se sa svetim Kristovim pretečom, Ivanom Krstiteljem: “Bi čovjek poslan od Boga, ime mu Ivan” (Iv, 1, 6). Učinio je to prvi carigradski patrijarh Atenagora, što je ujedno bio jasni znak približavanja između latinske Crkve i grčke Crkve nakon devetstoljetne odvojenosti.
“Želimo ‘pripraviti Gospodinu narod svet, poravniti mu staze, da se krivi putovi poravnaju a bregovi slegnu, da svi puci upoznaju Božje spasenje'”, tim je riječima Roncalli istoga tog 28. listopada 1958. ukratko sažeo cilj svoga pontifikata. Nekoliko dana kasnije, prigodom krunjenja, istaknuo je da će se založiti da bude dobar pastir, prema slici uzetoj iz desetog poglavlja Ivanova Evanđelja, dodavši kako “ostale ljudske osobine, kao što su učenost, promišljenost, diplomatska taktičnost, organizacijske sposobnosti, mogu biti od velike koristi za papu u njegovu upravljanju Crkvom, no one ni u kom slučaju ne mogu zamijeniti zadaću pastira”. Vjernici su Ivana XXIII. nazivali Papom dobrim, papom svih ljudi, župnikom svijeta. Poticao je ljude na molitvu, na razmatranje evanđelja, na obnovu ćudoređa u svijetu.

Ivan XXII. izabran je za Papu u vrlom turbulentnom povijesnom trenutku. “Dekristijanizacija” je počela uzimati sve više maha, smrću sovjetskog diktatora Staljina bilo je nužno potencijalno preispitivanje stava koji će se zauzimati prema komunizmu u svijetu, a u punom jeku bio je i proces dekolonizacije, to jest nezaustavljivo stjecanja državne neovisnosti u Africi i Aziji zemalja koje su nekoć bile pod francuskom i engleskom te portugalskom vlašću. Krajem 1960. prvi je puta za predsjednika Sjedinjenih Američkih Država izabran katolik John F. Kennedy. U njega su polagane velike nade na polju međunarodne politike “popuštanja napetosti”. Na sve je te probleme papa Ivan – kako su ga vjernici prisno oslovljavali – odgovorio s dvije poticajne enciklike: Mater et magistra od 15. svibnja 1961. i Pacem in terris od 11. travnja 1963. U njima je definirana uloga Crkve i dodirnuta brojna goruća pitanja s kojima se našao suočen suvremeni svijet.
U rimskoj bazilici Svetog Pavla izvan zidina, samo tri mjeseca nakon svog izbora 25. siječnja 1959. papa Ivan XXIII. iznenada je najavio da će sazvati koncil (istom je prigodom najavio da će se Codex iuris canonici posuvremeniti). Ivan XXIII. tim je činom postao prije svega papa koncila. Svoju odluku obznanio je u govoru manjoj skupini kardinala u Rimu u bazilici Sv. Pavla izvan zidina 25. siječnja 1959. “Srca ustreptala i ganuta duha, ali s poniznom odlučnošću najavljujem svečanu proslavu dvaju događaja: biskupijske sinode za Grad i općeg koncila za sveopću Crkvu”, rekao je Papa te dodao: “Što se tiče proslave ekumenskog koncila to nema samo za cilj izgrađivanje kršćanskog naroda, već želi također biti poziv odvojenim zajednicama na traženje jedinstva, kojem danas mnoge duše iz svih krajeva svijeta teže”.
Kada je na konklavama od 28. listopada 1958. Roncalli izabran za papu mislilo se da će to biti prijelazni, kratki pontifikat. Sigurno da nitko nije očekivao od velika iznenađenja od 77-godišnjeg Petrova nasljednika. Papa Roncalli međutim nije ostavljao mjesta sumnji da je njegova odluka da sazove koncil neopoziva i konačna. O nastavku radova Prvoga vatikanskog koncila, koji je naprasno prekinut 1870., razmišljali su već Pio XI. i Pio XII., ali su na kraju napustili tu ideju. Da je papa razmišljao drukčije bilo je jasno već od njegove odluke da, devedeset godina od njegova prekida, proglasi radove toga koncila zatvorenim.
Drugi vatikanski koncil svečano je otvoren 11. listopada 1962., uz sudjelovanje biskupa iz čitavog katoličkog svijeta. U svečanoj povorci u baziliku Sv. Petra, koja je bila posebno uređena za tu prigodu, išla je procesija od 2540 koncilskih otaca (kardinala, biskupa, teologa). Među pozvanim gostima bili su prisutni i izaslanici osamnaest nekatoličkih Crkava. U govoru na njegovu otvorenju Ivan XXIII. Koncil je nazvao “novom Pedesetnicom”, primijetivši pritom kako ljudsko društvo kao da ulazi “u novi poredak stvari”. “Četiri su glavna cilja Koncila”, rekao je papa Roncalli, “na prvome mjestu točnija i izričitija definicija Crkvi. Nema sumnje da postoji želja, potreba i dužnost da Crkva dadne konačno o sebi podrobnu definiciju. Svi pamtimo divne slike kojima nam Sveto pismo približava narav Crkve, koju se sad naziva zdanjem koje je podigao Krist, sad domom Božjim, hramom i svetohraništem Božjim, sad opet njegovih narodom, njegovim stadom, njegovim vinogradom, njegovom njivom, njegovim gradom, stupom istine, te na kraju Kristovom Zaručnicom, njegovim Mističnim tijelom. Samo bogatstvo tih veličanstvenih slika navelo je Crkvu da samu sebe prepozna kao povijesno, vidljivo i hijerarhijski uređeno društvo, ali i društvo koje vodi jedna tajanstvena sila. Glasovita enciklika pape Pija XII. Mystici corporis dijelom je odgovorila na tu veliku želju Crkve da samu sebe izrazi kroz jedan sveobuhvatan nauk te je također dijelom pojačala u njoj želju da ponudi jednu iscrpniju definiciju same sebe. Prvi vatikanski koncil je već pokrenuo to pitanje, a i mnogi su vanjski uzroci – tu mislimo primjerice na sve veću prisutnost socijalnog elementa u vremenitoj stvarnosti, zatim na razvoj međusobnog saobraćanja ljudi, na potrebu da se različite kršćanske vjeroispovijesti prosuđuje prema pravom i jednodušno prihvaćenom shvaćanju sadržanom u božanskoj objavi, i tako redom – pridonijeli tomu da se ono počne proučavati s religijskog aspekta kako u Katoličkoj crkvi tako i izvan nje. No to nije jedino što zaokuplja Naše srce. Golema Nas tuga obuzima zbog mnogih druga zala prisutnih u svijetu: nekim je dijelovima svijeta bezboštvo uzelo maha i narušilo ravnotežu intelektualnog, moralnog i društvenog poretka potamnjujući njihovo pravo shvaćanje. Kako se širi poznavanje stvari, tako se širi i tama nepoznavanja Boga, a samim tim i pravog shvaćanja čovjeka. Dok zahvaljujući napretku dolazi do čudesnog usavršavanja svakovrsnih oruđa koja stoje čovjeku na raspolaganju, njegovo srce tone u bezdan praznine, tuge i očaja. Crkva se divi ljudima iz svijeta kulture. Ona svoj pogled spušta na ljude iz svijeta kulture, na istraživače, na znanstvenike, na umjetnike. I sve njih svejednako cijeni i osjeća veliku želju prigrliti njihova iskustva, potkrijepiti njihova mišljenja, braniti njihovu slobodu, lađu nemirnog im duha s veseljem pogurnuti da se ona otisne ka svjetlu beskrajne pučine božanske riječi i milosti. Crkva se zanima za čitavo čovječanstvo. Ona svoj pogled pruža dalje, izvan kršćanskog krajobraza. Kako bi uopće i mogla postavljati granice svojoj ljubavi, ako se mora ugledati na Boga Oca, koji svoju milost svima razdaje (usp. Mt 5,48), i koji je toliko ljubio svijet da je dao svoga Sina Jedinorođenca? (usp. Iv 3,16). Pogled svoj dakle pruža izvan svojih granica i vidi ostale religije, koje čuvaju vjeru u jednoga Boga i doživljavaju ga kao stvoritelja koji brine za svoje stvorenje i koji je najviši i transcendentan, te koje se iskreno i pobožno Bogu klanjaju i na čijim vjerovanjima počivaju zasade moralnoga i društvenog života. Katolička Crkva bez sumnje otkriva, na svoju žalost, praznine, nedostatke i zablude u mnogim religijama, pa tako i u navedenima, ali im se svejedno obraća da ih podsjeti kako sve ono što je u njima ispravno, dobro i ljudsko katolička religija cijeni koliko se to pristoji, te da, kada u suvremenom društvu treba očuvati religijski osjećaj i štovanje Boga – a to je dužnost i potreba prave civilizacije –, ona staje u prve redove kao ona koja je najpozvanija da brani da se u čovječanstvu ostavi prostora za Boga”, rekao je papa. Ako bi se trebalo koncilsku misao sažeti u nekoliko riječi tada bi se bez sumnje to moglo učiniti tim riječima pape Roncallija izgovorenim na otvorenju Koncila i poznatim izrazom “aggiornamento”, izraz praktički neprevediv na druge jezike koji se kod nas obično prevodi s “posadašnjenje”
Taj je svečani dan završio Papinim znamenitim govorom. Na Trgu Sv. Petra okupilo se više stotina tisuća ljudi sa svijećama. Ozračje nabijeno emocijama doveo je do usijanja kada je u znamenitom “govoru o Mjesecu” izgovorio ove riječi: “Reklo bi se da se čak i Mjesec požurio večeras gledati ovaj prizor […]. Kada se vratite kući, naći ćete djecu. Pomilujte vašu djecu i recite im: to je milovanje od pape. Naći ćete suzu koju treba obrisati, recite jednu dobru riječ: Papa je s nama, osobito u časovima tuge i žalosti”.
Vatikanska kurija, koja se protivila, pa čak i otvoreno suprotstavljala papinoj ideji o Koncilu, ipak je pristajala da se nastave radovi Prvoga vatikanskog koncila. Ona je pripremila niz pripremnih shema, u uvjerenju da će ih biskupi, koji su najvećim dijelom imenovani tijekom pontifikata Pija XII., disciplinirano odobriti, kao što je bio slučaj u prethodnom stoljeću. Dogodilo se međutim da su biskupi iskoristili tu priliku da dadnu veliki prostor čak i vrlo žestokim raspravama, na kraju kojih su te sheme bile u suštini odbačene a sastavljene su sasvim nove.
Radovi Koncila započeli su 1962., nastavili se nakon smrti Ivana XIII. godine 1963., čvrstom voljom njegova nasljednika Giovannija Battiste Montinija (Pavao VI.) a zaključeni su 1965. U koncilskim konstitucijama i dekretima, ma koliko da su bili plod teških i ne uvijek dosljednih kompromisa, predstavljeni su novi scenariji “posadašnjenja” Katoličke Crkve. U tekstovima koji su definitivno odobreni otkrivaju se ipak tragovi važnih kompromisa, i to ne samo između “većine” i “manjine”. Premda se u načelu tražio samo posebno visok broj glasova za njihovo odobrenje, konstitucije i dekreti su u praktički izglasani plebiscitarno, na čemu je osobito ustrajao Pavao VI.
Nekoliko dana prije početka Koncila Papa prvi puta napušta Rim i odlazi na hodočašće u Loreto i Asiz s nakanom za uspjeh Koncila. Pred kraj listopada 1962. godine izbija velika međunarodna kriza, ovoga puta oko Kube. Svijet se našao na rubu Trećega svjetskog rata. Papa ponovo upućuje apel uime cijeloga svijeta za svjetski mir. Sovjeti popuštaju i svijet je ponovno odahnuo. Šest mjeseci kasnije 11. travnja 1963. Papa objavljuje encikliku “Pacem in terris” (Mir na Zemlji), u kojoj se obraća cijelom ljudskom rodu žarko apelirajući za mirom u svijetu. Distancira se od marksističke ideologije i aspiracija komunističkog režima, ali se zalaže za otvorenije odnose između Svete Stolice i Istoka. Bila je to uopće prva enciklika u kojoj poglavar Katoličke Crkve govori o općem ljudskom pitanju – miru, a ne o vjerskoj temi. Bila je to i svojevrsna njegova oporuka. Sve su se više širili glasovi kako je Papa teško bolestan i kako neće još dugo živjeti. Dva mjeseca kasnije, 3. lipnja, nakon duge bolesti, Papa umire u papinskom stanu u vatikanskim palačama.
Njegove su posljednje dane, počevši od 31. svibnja, kada je postalo jasno da se njegov život primiče kraju, suspregnuta daha pratili katolici iz cijelog svijeta, i ne samo oni. Radijske i televizijske ekipe iz čitavoga svijeta pohrlile su na Trg Svetog Petra.
Giovanni Battista Montini, tada milanski kardinal, koji će nekoliko tjedana nakon njegove smrti biti izabran za papu na konklavama i izabrati ime Pavao VI., održao je u katedrali toga lombardskoga grada homiliju, u kojoj su sabrane istaknute točke popularnosti koju je Ivan XXIII. uživao također izvan krugova katoličkih vjernika: “Trebalo bi, primjerice, istražiti i razjasniti razloge tako iskrenog i tako sveopćeg žaljenja kojim je Ivan XXIII. otpraćen na posljednje počivalište. Zašto je posvuda oplakivana njegova smrt? I koji se to fenomen duhovne zbliženosti dogodio na zemlji, do sada nezabilježen u povijesti, bar u ovoj mjeri i u ovom obliku?”