En sus recorridos por el campo, se encontró con la iglesia de Budejovice, hoy capilla de San Juan, construida por colonos checos en 1868. En su primer intento de ingresar, sin embargo, se topó con que el templo estaba cerrado.
La iglesia estaba bastante deteriorada, tras cerca de cien años de abandono. A pesar de esto, casi todos los días Greg llegaba para rezar a sus puertas.
El tesorero de la fundación que se encarga del mantenimiento del cementerio cercano a la iglesia, Don Rynda, recordó, en declaraciones recogidas por el Huffington Post, que al ver bloqueado su acceso a la capilla Greg habló con un vecino "y dijo que quería pintar la iglesia y que con quién puede hablar, así que el vecino lo mandó a hablar conmigo".