Gergely egy idő után csendes magányra vágyott, ezért visszavonult apja Monte Coelión lévő palotájába, amelyet három nagynénjével együtt kolostorrá alakíttatott. Szemlélődő életének I. Benedek (vagy a következő pápa, II. Pelagius) vetett véget azzal, hogy a római egyház diakónusává szentelte. Gergely a hét kerület egyikének élére került, és az egyház karitatív, valamint anyagi ügyeit intézte. A pápa idővel az egyik legmagasabb tisztségbe emelte: kinevezte apokrisziárnak, állandó pápai követnek Konstantinápolyba. Ő biztosította az egyház nyugati és keleti része között a legmagasabb szintű összeköttetést. Gergely minden erejével azon fáradozott, hogy az itáliai népnek segítséget szerezzen a császártól. Ám törekvését meghiúsította a ravennai helytartó. Gergely visszatért Rómába, lemondott hivataláról, és visszavonult. A pápa azonban gyakran fölkereste, és tanácskozott vele.
589 őszén a Tiberis megáradt, és elöntötte a várost. A lakosság egy része a vízben lelte halálát, sokan pedig az áradás után föllépett járványok áldozatai lettek, maga a pápa is. A római nép és a papság ekkor csupán egyetlen jelöltet látott a pápaságra: Gergelyt. 590. szeptember 3-án szentelték püspökké.
A lakosságot éhínség fenyegette, ezért az új pápa a római egyház nagybirtokainak jövedelmét a nyomor enyhítésére akarta fordítani. Ám a longobárdok hadjáratai, a császári hivatalnokok és az egyházi vagyonkezelők túlkapásai miatt e birtokok alig jövedelmeztek valamit. Gergely új vagyonkezelőket választott, akik hamarosan fölvirágoztatták a birtokokat, melyek bevételét ezután a templomok, a papság, a longobárdok elől elmenekült hívők és a római nép megsegítésére fordította.
Gergely különösen ügyelt a rá bízottak jogainak tiszteletben tartására – legyen szó az egyházi birtokokon dolgozó parasztokról vagy a Rómában élő zsidó polgárokról. És miközben nagy hangsúlyt fektetett az egyház missziós szolgálatára, mindig tiszteletben tartotta a más egyházak jogköreit. Levelezést folytatott a bajor hercegnővel, Theodelindával, aki a longobárd király, Authari felesége volt; majd utódával, Agilulf királynővel is – ezzel előkészítette az egész longobárd törzs megtérését. Hispániában a nyugati gótok későbbi királya, Rekkared szintén Gergely hatására tért át az arianizmusból a katolikus hitre. Mindezzel Gergely végleg megváltoztatta Európa történelmét.
