Salut,
J'ai une idée que tu peux tester. Ca marchera peut-être : mettre au carré la 1ère équation.
{x²y²=9
{x²+y²=25/4
Puis un changement de variables :
{XY=9
{X+Y=25/4
qui sont solutions de X²-9X+25/4=0 (tu as peut-être bien dans ton cours la résolution de systèmes "somme et produit").