Tienes lo siguiente :
x = edad actual de Roberto
y = edad actual de Sandro
Roberto hace 5 años tenia la mitad de la edad actual que tiene Sandro :
(x - 5) = y / 2
y = 2(x - 5) = 2x - 10
Sandro es el hermano mayor, eso significa que :
x < y
Si dentro de 5 años la edad de Sandro sera un cuadrado perfectomenor que 40 :
y + 5 = k²
k² < 40
Ahora debes tratar de utilizar lo mejor posible los datos que obtuviste :
y + 5 = k² = (2x - 10) + 5 = 2x - 5
<img src="https://tex.z-dn.net/?f=2x-5%3Dk%5E2%20%5C%5C%20x%3D%20%5Cfrac%7Bk%5E2%2B5%7D%7B2%7D%20" />
Como k² es un cuadrado perfecto menor que 40, puede ser :
4, 9, 16, 25, 36
Ahora te doy un consejo para que no tengas que sustituir los 5 valores, observa que "x" debe ser un número entero y como (k² + 5) debe ser divisible entre 2, k² debe ser un número impar, y por lo tanto las únicas opciones son :
<img src="https://tex.z-dn.net/?f=k%5E2%3D9%20%5C%5C%20k%5E2%3D25" />
Ahora si sustituyes :
<img src="https://tex.z-dn.net/?f=y%3Dk%5E2-5%20%5C%5C%20x%3D%20%5Cfrac%7Bk%5E2%2B5%7D%7B2%7D%20%20%5C%5C%20%20%5C%5C%20Si%5C%20k%5E2%3D9%20%5C%5C%20y%3D9-5%3D4%20%5C%5C%20x%3D%20%5Cfrac%7B9%2B5%7D%7B2%7D%3D7%20%5C%5C%20%20%5C%5C%20Si%5C%20k%5E2%3D25%20%5C%5C%20y%3D25-5%3D20%20%5C%5C%20x%3D%20%5Cfrac%7B25%2B5%7D%7B2%7D%3D15%20%20" />
Tienes dos soluciones pero aquí es donde es importante la frase de que Sandro es mayor, porque como x< y, la única opción que cumple eso es :
x = 15
y = 20
La edad actual de Roberto es 15 años
Saludos!