Santa Teresa fundaba por entonces los conventos de la rama reformada de las carmelitas. Cuando oyó hablar del hermano Juan, en Medina del Campo, la santa se entrevistó con él, quedó admirada de su espíritu religioso y le dijo que Dios le llamaba a santificarse en la orden de Nuestra Señora del Carmen. También le refirió que el prior general le había dado permiso de fundar dos conventos reformados para hombres y que él debía ser su primer instrumento en esa gran empresa. La reforma del Carmelo que lanzaron Santa Teresa y San Juan no fue con intención de cambiar la orden o "modernizarla" sino mas bien para restaurar y revitalizar su cometido original el cual se había mitigado mucho. Al mismo tiempo que lograron ser fieles a los orígenes, la santidad de estos reformadores infundió una nueva riqueza a los carmelitas que ha sido recogida en sus escritos y en el ejemplo de sus vidas y sigue siendo una gran riqueza de espiritualidad.
Poco después, se llevó a cabo la fundación del primer convento de carmelitas descalzos, en una ruinosa casa de Duruelo. San Juan entró en aquel nuevo Belén con perfecto espíritu de sacrificio. Unos dos meses después, se le unieron otros dos frailes. Los tres renovaron la profesión el domingo de Adviento de 1568, y nuestro santo tomó el nombre de Juan de la Cruz. Fue una elección profética. Poco a poco se extendió la fama de ese oscuro convento de suerte que Santa Teresa pudo fundar al poco tiempo otro en Pastrana y un tercero en Mancera, a donde trasladó a los frailes de Duruelo. En 1570, se inauguró el convento de Alcalá, que era a la vez colegio de la universidad; San Juan fue nombrado rector.
Con su ejemplo, San Juan supo inspirar a los religiosos e1 espíritu de soledad, humildad y mortificación. Pero Dios, que quería purificar su corazón de toda debilidad y apego humanos, le sometió a las más severas pruebas interiores y exteriores. Después de haber gozado de las delicias de la contemplación, San Juan se vio privado de toda devoción. A este período de sequedad espiritual se añadieron la turbación, los escrúpulos y la repugnancia por los ejercicios espirituales. En tanto que el demonio le atacaba con violentas tentaciones, los hombres le perseguían con calumnias.
La prueba más terrible fue sin duda la de los escrúpulos y la desolación interior, que el santo describe en "La Noche Oscura del Alma". A esto siguió un período todavía más penoso de oscuridad, sufrimiento espiritual y tentaciones, de suerte que San Juan se sentía como abandonado por Dios. Pero la inundación de luz y amor divinos que sucedió a esta prueba, fue el premio de la paciencia con que la había soportado el siervo de Dios.
En cierta ocasión, una mujer muy atractiva tentó descaradamente a San Juan. En vez de emplear el tizón ardiente, como lo había hecho Santo Tomás de Aquino en una ocasión semejante, Juan se valió de palabras suaves para hacer comprender a la pecadora su triste estado. El mismo método empleó en otra ocasión, aunque en circunstancias diferentes, para hacer entrar en razón a una dama de temperamento tan violento, que el pueblo le había dado el apodo de "Roberto el diablo".