Még akkor is román kori egy templom, ha valamikor átépítették, kicserélték az ablakokat, a portálokat, ám ettől belső arányai nem változtak meg. S ez igaz az ipolybalogi templomra is, amelynek tornyán a magyar királyi korona látható. A falu az országhatár túlsó felén, nem messze Ipolyságtól található. A falut először 1232-ben említi egy oklevél Balug néven. A község azonban ennél jóval régebbi, hiszen Hont megye monográfiája szerint temploma már 1100-ban a mai helyén állt. Az eredetileg román stílusú templomon, amelyet legutóbb 1979-ben restauráltak, valamennyi építészeti stílus nyoma felfedezhető. „A román kori elemeket elsősorban a templomhajó őrzi – írja Csáky Károly a Hont megyei templomokat bemutató kis könyvében. – A déli főkapunak ma már csak a töredékei emlékeztetnek a legrégibb korra.
A bejáratot a török után módosították, egy kisméretű szegények házát építve a déli falhoz. Ezt 1926-ban lebontották, s a régi ajtót is befalazták. Sérült maradványai a legutóbbi restauráláskor kerültek elő. A déli ablakok fragmentumai szintén a román korra emlékeztetnek. Az épület legértékesebb román kori maradványai a templomhajó alsó vízdobó kövei." Eredetileg kör alakú volt a szentély is. (Az apszis négy oldalpillérének helye tanúskodik erről.) A pilléreket a barokkosításkor bontották le.
A régi szentély keleti ablaka viszont megőrizte eredeti formáját. „A régi magyar lelkiség és középkori szemlélet szenzációs, ékes bizonyítékát” szintén a legutóbbi restaurálás során bontották ki. A templom tornyán ma a magyar királyi korona mása látható. „Ennek a koronának történetét a néprege tarka köntösben és tömérdek változatban hagyta nemzedékről nemzedékre. Forrásaink azt a magyarázatot fűzik ehhez a hagyományhoz, hogy a Vencel és Róbert Károly királyok közötti viszályban Vencel a magyar Szent Koronát magával vitte, és útjában a Szent Korona az ipolybalogi templomban pihent.” Ennek hitelességét még nem igazolták, viszont tény, hogy a pozsonyi Szent Márton-székesegyházon kívül ez a templom a második Szlovákiában, melynek tornyán a királyi korona látható. Az épületet körülvevő, lőrésekkel ellátott vastag kőfal védelmi célból épülhetett a középkorban. Az egyik látogató ezt a megjegyzést írta a vendégkönyvbe: „Ez a templom a fárasztóan unalmas, szürke hétköznapok között szigetként megbúvó oázis, amely lelket felemelő ünnepi fényt sugároz.”