Hola esta es mi solucion :
Numero menor : x
Numero mayor : y
Dice que esos dos numeros son entre si como 5 es a 8, entonces :
<img src="https://tex.z-dn.net/?f=%20%5Cfrac%7Bx%7D%7By%7D%20%3D%20%20%5Cfrac%7B5%7D%7B8%7D%20" />
Pero esto es igual a :
<img src="https://tex.z-dn.net/?f=%20%5Cfrac%7Bx%7D%7By%7D%20%20%3D%20%5Cfrac%7B5k%7D%7B8k%7D%20" />
Entonces : x = 5k , y = 8k
Ahora dice que la suma de sus cuadrados es 712 :
<img src="https://tex.z-dn.net/?f=%20x%5E%7B2%7D%20%2B%20y%5E%7B2%7D%20%3D%20712%20" />
Reemplazamos :
<img src="https://tex.z-dn.net/?f=%20%285k%29%5E%7B2%7D%20%2B%20%288k%29%5E%7B2%7D%20%3D%20712%20" />
<img src="https://tex.z-dn.net/?f=25k%5E%7B2%7D%20%2B%2064k%5E%7B2%7D%20%3D%20712" />
<img src="https://tex.z-dn.net/?f=%20%2825%20%2B%2064%29k%5E%7B2%7D%20%3D%20712" />
<img src="https://tex.z-dn.net/?f=%20k%5E%7B2%7D%20%3D%20%20%5Cfrac%7B712%7D%7B89%7D%20%20" />
<img src="https://tex.z-dn.net/?f=%20k%5E%7B2%7D%20%3D%208%20" />
<img src="https://tex.z-dn.net/?f=k%20%3D%20%20%5Csqrt%7B8%7D%20" />
<img src="https://tex.z-dn.net/?f=k%20%3D%202%20%5Csqrt%7B2%7D%20" />
Pero el numero menor es 5k, entonces :
5k = 5[img = 10] = [img = 11]
El numero menor es[img = 12].