Buenas tardes,
Para resolver el problema que planteas podemos aplicar una metodología de sumatoria de las 3 ecuaciones, dado que tal como se aprecia se tiene un factor común en cada una de ellas compuesta por la suma de las variables X, Y y Z contenidas en el paréntesis, lo cual será el primer paso para simplificar la cantidad de expresiones, teniendo como resultado que :
x * (x + y + z) + y * (x + y + z) + z * (x + y + z) = 26 + 27 + 28 .
Expresión (1)
De la expresión (1), tenemos que si aplicamos métodos de simplificación, como extraer el factor común dado por (x + y + z), se obtiene que :
(x + y + z) * (x + y + z) = 81 .
Expresión (2)
Tras ello obtenemos que es posible escribir una sola base o expresión elevada a la potencia 2, por lo que aplicando luego extracción de raíz se generan 2 soluciones para el factor (x + y + z), recordando que al extraer raíz cuadrada se originan 2 posibles valores, uno positivo y otro negativo, que comparten la misma magnitud, entiéndase con ello :
(x + y + z) = + 9 ó (x + y + z) = - 9 .
Expresión (3)
A partir de la expresión (3), conocido un factor que es común en las 3 expresiones dadas inicialmente, basta con sustituir ambas soluciones y se obtendrá el valor de cada componente que conforma la terna, de modo que se tienen los siguientes resultados :
<img src="https://tex.z-dn.net/?f=x%20%3D%20%20%5Cfrac%7B26%7D%7B9%7D%20" /> ó <img src="https://tex.z-dn.net/?f=x%20%3D%20%20%5Cfrac%7B-26%7D%7B9%7D%20" />
<img src="https://tex.z-dn.net/?f=y%20%3D%20%20%5Cfrac%7B27%7D%7B9%7D%20" /> ó <img src="https://tex.z-dn.net/?f=y%20%3D%20%20%5Cfrac%7B-27%7D%7B9%7D%20" />
<img src="https://tex.z-dn.net/?f=z%20%3D%20%20%5Cfrac%7B28%7D%7B9%7D%20" /> ó <img src="https://tex.z-dn.net/?f=z%20%3D%20%20%5Cfrac%7B28%7D%7B9%7D%20" />
Por lo que se observa se obtienen 2 posibles valores de cada componente, de modo que se tienen 2 posibles ternas solución, tal que :
1.
<img src="https://tex.z-dn.net/?f=%28x%2Cy%2Cz%29%20%3D%20%20%28%5Cfrac%7B26%7D%7B9%7D%2C%20%5Cfrac%7B27%7D%7B9%7D%2C%20%5Cfrac%7B28%7D%7B9%7D%29%20" />
2.
<img src="https://tex.z-dn.net/?f=%28x%2Cy%2Cz%29%20%3D%20%20%28%5Cfrac%7B-26%7D%7B9%7D%2C%20%5Cfrac%7B-27%7D%7B9%7D%2C%20%5Cfrac%7B-28%7D%7B9%7D%29%20" />
Espero haberte ayudado.