Amikor az esztergomi káptalan kanonok Özséb példájára Szent Pál egyesítette 1225-ben az élő remetéket, még nem tudta, hogy megalapozta az első magyar férfi szerzetesrendet – a Paulinosokat. A rend 1256-ban Esztergomban alapult meg, amelynek létezését V. Kelemen pápa is megerősítette. Az egyik legbefolyásosabb Peréniyi, Palatin Imre 1502-ben egy kétszintes kolostort építtetett. A reneszánsz kolostor alakja az „I“ betűre emlékeztet és közvetlenül a déli szárnnyal kapcsolódott a templomhoz.