Velence volt a szülőföldje, a keresztségben a György nevet kapta. Kétéves volt, amikor szülei elvitték a Szent Márk-székesegyházzal átellenben lévő Szent György-szigetre (San Giorgio Maggiore). Úgy látszott ugyanis, hogy nem marad életben. A szülők fogadalmat tettek, hogy ha a gyermek a sziget bencés szerzeteseinek imájára meggyógyul, Istennek szentelik, és mindjárt a monostorban hagyják. Meggyógyult, így szerzetes lett. A Gellért nevet édesapja emlékére vette föl, akit egy szentföldi zarándoklat során öltek meg.
Huszonöt éves korában rendtársai őt tették meg a monostor perjelévé, majd apátnak választották. Három év múltán azonban lemondott tisztségéről, és a Szentföldre indult.
1015. február vége felé szállt hajóra, de vihar tört ki, amely Isztria partjai felé sodorta a hajót. A több hétre elhúzódott kényszerpihenő közben Gellért megbeszélte útitervét az ugyancsak ott időző pannonhalmi apáttal, aki szerette volna őt megnyerni, magyarországi kolostoralapítási és térítői tervének. Gellért azzal a nem titkolt szándékkal engedett az unszolásnak, hogy Magyarországon keresztül könnyebben eljuthat a Szentföldre. 1015. május 3-án érkeztek Pécsre, Szent Mór püspökhöz. Vele és Asztrik pécsváradi apáttal Székesfehérvárra, Szent István királyhoz mentek. Az uralkodó fölkérte Gellértet az akkor nyolcéves fiának, Szent Imre hercegnek a nevelésére. Gellért hét éven át nevelte a gyermeket Esztergomban, majd Bakonybélbe vonult remetének. Ekkor írta szentírás-magyarázó munkáit, többek között a Zsidókhoz írt levélhez és Szent János apostol első leveléhez. 1028-ban István Ajtony vezér legyőzése után hívatta, hogy rábízza a Csanádi Egyházmegye megszervezését. Gellért az egyházmegye területét hét főesperességre osztotta, káptalani iskolát szervezett, templomokat építtetett, köztük a székesegyházat és a bencés monostor templomát.
Szent István utódát, a velencei Orseolo Pétert idegenpártolása miatt nemzeti forradalom űzte el a trónról. Az őt követő Aba Sámueltől Gellért a zsarnoksága miatt megtagadta a koronát. 1046 szeptemberében a lengyelországi száműzetésből hazatérő Endre és Levente herceg fogadására igyekezett püspöktársaival. Mivel a hercegek még nem érkeztek meg Székesfehérvárra, továbbutazott Diósdig. Másnap reggel a Szent Szabina-templomban mondott miséje közben látomása volt közelgő vértanúságukról. A pesti révhez közeledve Vata pogány lázadói kőzáporral törtek a püspökre és kíséretére. Kiráncigálták Gellértet a szekeréből, hozzákötötték egy kordéhoz, és a Kelen-hegy (ma Gellért-hegy) szikláiról a mélybe taszították. Holttestét ideiglenesen a pesti Boldogasszony-templomban (a mai Belvárosi főplébánia-templomban) temették el, de később átszállították Csanádra.