Gyulay je bio prvi mađarski biskup koji je još u doba komunizma branio smjer kardinala Józsefa Mindszentyja (1892.-1975.) i otvoreno kritizirao mjere zastrašivanja koje je provodio režim. Kao biskup dijeceze koja je graničila s Rumunjskom, bio je nadležan i za izbjeglice iz Rumunjske.

Endre Gyulay je rođen 17. rujna 1930. u Batanji, pohađao je školu kod redovnika pijarista u Segedinu i nakon toga od 1948. do 1952. studirao teologiju. Nakon svećeničkog ređenja 1951. djelovao je u brojnim župama u svojoj biskupiji, a od 1972. predavao je retoriku i bio duhovnik na bogosloviji u Segedinu i ujedno bio nadležan za pastoral u biskupiji. Na njegov poticaj pokrenut je susret mađarske katoličke mladeži.

Papa Ivan Pavao II. imenovao ga je 1987. segedinskim biskupom. U biskupiji je proveo brojne impulse Drugog vatikanskog koncila. Postala je poznata njegova tadašnja okružnica „Za pravedniji i bratskiji svijet“. Sazvao je biskupijsku sinodu, potaknuo osnivanje katoličkih škola i povratak redovničkih zajednica te dao izgraditi 13 crkava.

Biskup Gyulay vodio je od 1989. do 1990. europsku humanitarnu akciju za Transilvaniju. Bio je jedan od organizatora papina posjeta 1991., a od 1993. bio je podpredsjednik Mađarske biskupske konferencije i član vladina povjerenstva za rješavanje pitanja crkvenih nekretnina. Godine 1999. postao je predsjednikom Mađarskog izviđačkog saveza. Kao pisac i autor brojnih novinskih članaka i česti gost u televizijskim emisijama postao je jedan od najpoznatijih mađarskih biskupa.
Umirovljen je 2006. a na dužnosti segedinskog biskupa naslijedio ga je Lásló Kiss-Rigó. Biskup Gyulay i u miru je ostao aktivan u dušobrižništvu.