En 1977 el Papa Pablo VI lo designó secretario de la Comisión Pontificia para las relaciones religiosas con el judaísmo, organismo del área del Secretariado para la Unión de los Cristianos, y el 20 de setiembre de 1979 San Juan Pablo II lo distinguió con el título de Capellán de Su Santidad.
Juan Pablo II lo designó vicepresidente de la Pontifica Comisión Justicia y Paz y, al mismo tiempo, lo elevó a la dignidad episcopal, haciéndolo Obispo titular de Apollonia el 8 de marzo de 1986. Recibió la ordenación episcopal el 12 de abril de ese año y fue promovido a Arzobispo el 4 de marzo de 1994.
Fue secretario de la Congregación para los Obispos en la Curia Romana, consultor del Pontificio Consejo para los Laicos y de la Comisión para las Relaciones Religiosas con los Hebreos, miembro del Consejo Pontificio para la Pastoral de los Migrantes e Itinerantes y Secretario del Colegio Cardenalicio.
Además de toda su actividad pastoral, docente y académica y su frondosa producción editorial y periodística, el Cardenal Mejía fue más conocido por haberse desempeñado como director de la revista católica "Criterio" durante 22 años, de 1956 a 1977, sucediendo a Mons. Gustavo J. Franceschi.