Talia tengo tú respuesta pero es un poco larga, voy a tratar de que la entiendas.
La ecuación de la parte izquierda debe quedarte (X + Y)(X + Y) todo al cuadrado como tú expones, solo descompuse la ecuación, ahora tienes que elevar al cuadrado y queda, (X2 + 2XY + Y2) (X2 + 2XY + Y2) ahora aplicas distributiva es decir X2 por (X2 + 2XY + Y2), 2XY por(X2 + 2XY + Y2) y por último Y2 por (X2 + 2XY + Y2), se obtiene de toda la distributiva X4 + 2X3Y + X2Y2 + 2X3Y + 4X2Y2 + 2XY3 + X2Y2 + 2XY3 + Y4 - X2Y2 - Y2Z2 - X2Z2 esto es lo que tenías la derecha, buscas ahora cada factor que es igual y te percatas que se restan los X2Y2, ahora a sumar y la respuesta final es = X4 + 4X3Y + 5X2Y2 + 4XY3 + Y4 - Y2Z2 - X2Z2.
Espero que entiendas todo.
Saludos.