Se resuelve con un sistema de ecuaciones, aquí te va el procedimiento :
<img src="https://tex.z-dn.net/?f=%20%5Cleft%20%5C%7B%20%7B%7B%20x%5E%7B2%7D%20%2B%20y%5E%7B2%7D%3D100%20%5Cqquad%20%281%29%7D%20%5Catop%20%7B%20%5Cfrac%7Bx%7D%7By%7D%20%3D%20%5Cfrac%7B3%7D%7B4%7D%20%5Cqquad%20%5Cqquad%20%282%29%20%7D%7D%20%5Cright.%20%20%5C%5C%20%20%5C%5C%20%24De%20la%20segunda%20ecuaci%5C%27on%20despejemos%20x%20%24%5C%5C%20%20%5C%5C%20x%3D%20%5Cfrac%7B3%7D%7B4%7Dy%20%5C%5C%20%20%5C%5C%20%24Sustituyendo%20x%20en%20la%20primera%20ecuaci%5C%27on%3A%24%20%5C%5C%20%20%5C%5C%20%28%20%5Cfrac%7B3%7D%7B4%7D%20y%29%5E%7B2%7D%2B%20y%5E%7B2%7D%20%3D%20100%20%5C%5C%20%20%5Cfrac%7B9%7D%7B16%7D%20y%5E%7B2%7D%20%2B%20y%5E%7B2%7D%20%3D%20100%20%5C%5C%20%28%20%20%5Cfrac%7B9%7D%7B16%7D%2B1%29%20y%5E%7B2%7D%3D100%20%5C%5C%20%20%5Cfrac%7B9%2B16%7D%7B16%7D%20%20y%5E%7B2%7D%20%3D100%20%5C%5C%20%20%5Cfrac%7B25%7D%7B16%7D%20%20y%5E%7B2%7D%20%3D100%20%5C%5C%20%20y%5E%7B2%7D%20%3D%20100%28%20%5Cfrac%7B16%7D%7B25%7D%29%20%5C%5C%20%20y%5E%7B2%7D%3D4%2816%29%3D64%20%5C%5C%20%24Sacando%20raiz%20cuadrada%20de%20ambos%20lados%24%20%5C%5C%20y%3D%5Cboxed%7B%5Cpm8%7D%20%20" />
Ahora sustituyamos el valor de y en la primera ecuación para obtener el valor de x.
<img src="https://tex.z-dn.net/?f=%20x%5E%7B2%7D%20%2B%20%208%5E%7B2%7D%20%3D%20100%20%5C%5C%20%20x%5E%7B2%7D%20%2B64%3D100%20%5C%5C%20%20x%5E%7B2%7D%20%3D100-64%20%5C%5C%20%20x%5E%7B2%7D%20%3D36%20%5C%5C%20%24Sacando%20raiz%20cuadrada%20de%20ambos%20lados%24%20%5C%5C%20x%3D%5Cboxed%7B%5Cpm6%7D%20%5C%5C%20%20%5C%5C%24%20De%20aqui%20podemos%20concluir%20que%20las%20soluciones%20de%20este%20sistema%20puede%20ser%20%24%20%20%5C%5C%20%5Cboxed%7Bx%3D6%7D%20%5C%20%5C%20y%20%5C%20%5C%20%5Cboxed%7By%3D8%7D%20%5Cqquad%20%24o%20bien%24%20%5Cqquad%20%5Cboxed%7Bx%3D-6%7D%20%5C%20%5C%20y%20%5C%20%5C%20%5Cboxed%7By%3D-8%7D" />
Espero te sirva : ).