A jáki templom hazánk egyik legszebb román és koragót stílusú műemléke, ami jelenleg is plébániatemplomként várja a híveket és a látogatókat. A jelenlegi Magyarország területén nincs még egy ilyen épségben megmaradt, ilyen díszes, román kori, három hajós katedrális - a tatárok, a törökök és az országot sújtó háborúk dúlásának eredményeként.
Építészeti megoldásai, faragványai, freskói méltó emléket állítanak a 12. század világának és művészetének. Mondhatni, hogy a 13. századi vallásos emberek világképének állít emléket és mutat térképet az épület és faragványai. A templom falai emberöltőkön keresztül fogadták be az itt élők imáját, ezért hatalmas szakrális energiák hordozója az épület.

A jáki templom alapítója a Ják nemzetségből származó Jáki Nagy Márton nemes, a környék gazdag földbirtokosa. A Ják nemzetség alapítója az a Wasserburgi Wecellin nevű bajor lovag, aki Gizella királynő, Szent István feleségének kíséretében jött be Magyarországra. Itt a királyi testőrség parancsnoka lett és nagybirtokot kapott.
A templom és a bencés kolostor alapításának ideje: 1214. Az építés 1256-ig tartott, három szakaszban. Az alapító halála vagy a tatárjárás (1241-42) miatt az építkezés félbeszakadt.
A templom stílusa alapvetően román, de már megjelennek a gótikus elemek is, amit a nemzetközi építőmesterek hoztak magukkal. Fellelhető a gyönyörű díszítésekben az észak-francia, normann hatás, valamint a burgundi, a bambergi dóm kőfaragók hatása is. A befejezést a harmadik ún. provinciális iskola végezte. Munkájuk: az északi hajó lefedése (bordás keresztboltozat), a fő és déli hajók fakazettás lefedése és a Jakab kápolna felépítése, ami így egyidős a templommal.
A felszentelést Omodé győri püspök és Favus pannonhalmi főapát végezték 1256-ban. A szentelést az alapító nem érhette meg. Ezt örökíti meg a déli torony alatt látható egyik freskótöredék: a jáki templom előtt temetési jelenet látható.

Az 1331-ből való oklevél 50 szerzetesről tesz említést.

Az 1455-ben gazdátlanná vált jáki kegyuraságot V. László a monyorókeréki (Eberau) Elderbach Berchtoldnak adta, majd később Bakócz Tamás örökölte. Őt követte unokaöccse Erdődy Péter. Ettől kezdve az Erdődy grófi család a kegyúr. A Zrínyi-családhoz csak rövid időre került (1557-1613).

Kőszeg városának 1532. évi ostromakor a törökök a monostort és a templomot is megrongálták. Az apostolfejek közül számosat levertek, de másutt is okoztak károkat.
1562 után megszűnt a szerzetesi élet, a kolostornak ma már nyoma sincs.

1626-ban Erdődy Bálint és Zsigmond megegyeztek, hogy a templomot kijavítják. Valószínűleg, e restaurálás emlékét őrzi egy szívben látható név és évszám (Theodosius Duchon 1637) a főhajó egyik északi ívében. Egyéb barokk-kori festésmaradvány is fellelhető a templomban.
A 17. század közepén az épületet villámcsapás érte, amely erősen megrongálta a templom déli részét. Három déli pillért és a főhajófal nagyobb részét újjá kellett építeni. Ez a hatalmas munka Folnay Ferenc apát nevéhez fűződik (1643-1666). A templom déli kertjébe vezető ún. Folnay-kapu is ekkor épült. Vaskapuját Pölöskei József készítette 1970-ben.
A 18. század végé Erdődy Gábor gróf, apát, aki később egri püspök lett, a tornyokat restauráltatta (1733-35). Az 1756-os egyházlátogatási jegyzőkönyv (vis.can.) gazdagon tagolt hagymasisakról ír; valamint azt is megemlíti, hogy a főhajó cserép-, a mellékhajó fazsindelyes.

1780-ban Szily János Szombathely első püspöke, egyházlátogatásának alkalmával a főhajó tetőzetét és a tornyokat igen elhanyagolt állapotban találta.

1846-ban a szombathelyi püspöki hatóság sürgeti, hogy a templomot művészettörténeti szempontok szerint kell helyreállítani. Ettől kezdve a templom felújítása nem csak egyházi, hanem nemzeti ügy lett.

1892-ben a Műemlékek Országos Bizottsága Mőller Istvánt bízta meg a munkálatok irányításával. 1896-1904-ig tartott a templom történetében a második legjelentősebb helyreállítási munka Magyarország ezeréves fennállásának emlékére. A munkálatokat Schulek Frigyes és Gyalus László vezette. Lebontották a déli hajó fölé emelt, Folnay idejében épített emeleti részt. Felfalazták a barokk korban nyitott ablakokat. A barokk oltárok helyett neoromán oltárokat emeltek. Megújították az áldoztató rácsot, a szószéket és az egykori kegyúri karzat mellvédjét. A szentélytől kiindulva a kórusig új boltozatot készítettek a főszentély mintájára. Ugyanígy a déli hajóban is. A tornyokat is visszabontották a kórusmagasságig. Nagyon sok eredeti kőfaragványt múzeumi megőrzés végett kivettek. Ez a restaurálás az egész templomot érintette. Ugyancsak az egész templomot érintette a 2018-2024 közötti feltárás és felújítás. 

1902-ben Angster József és fia pécsi orgonaépítők új orgonát készítettek. 

1937-ben Gróf Wenchein Frigyes apát idejében olasz művészek restaurálták a főoltár mögötti "elfelejtett" Szent György freskót és a déli torony alatt lévő freskókat.