Usa este procedimiento que te pongo :
Edad actual de la madre : x
Edad de la madre hace 10 años : x - 10
Edad de la madre dentro de 11 años : x + 11
Edad actual de la hija : y
Edad de la hija hace 10 años : y - 10
Edad de la hija dentro de 11 años : y + 11
Si hace 10 años era cinco veces la de su hija, puedo plantear la 1ª ecuación del sistema :
x - 10 = 5(y - 10) .
Eliminando paréntesis y reduciendo términos semejantes y despjeando la "x".
X - 10 = 5y - 50 - - - - - - - > x = 5y - 40
Igualmente, si dentro de 11 años será el doble que la de su hija, se plantea :
x + 11 = 2(y + 11) .
Eliminando paréntesis y reduciendo términos semejantes.
X + 11 = 2y + 22 - - - - - - - - - - > x - 2y - 11 = 0 .
Resolviendo por sustitución del valor de "x" de la 1ª en la 2ª.
5y - 40 - 2y - 11 = 0 - - - - - > 3y = 51 - - - - - - - > y = 17 años tiene la hija actualmente.
Sustituyendo ese valor en el despeje de "x" de la 1ª.
X = 5·17 - 40 = 45 años tiene la madre actualmente.