Respuesta : Lo que debes hacer es desglosar el proceso lógico mediante el cual se resuelven las expresiones matemáticas, de tal forma que quede expresado en operaciones básicas que se puedan programar a la computadora.
Voy a asumir que es programación de bajo nivel.
Por ejemplo : (a + b)².
Es un producto notable que queda como<img src="https://tex.z-dn.net/?f=%7Ba%7D%5E%7B2%7D%20%20%2B%202ab%20%2B%20%20%7Bb%7D%5E%7B2%7D%20" />eso es<img src="https://tex.z-dn.net/?f=%28a%20%5Ctimes%20a%29%20%2B%202%28a%20%5Ctimes%20%5C%3A%20b%29%20%2B%20%28b%20%5Ctimes%20b%29" />y ya desglosado en operaciones básicas, sólo debes darle las instrucciones a la computadora, paso por paso, para que haga el cálculo.
A y b van a ser valores iniciales que, por ejemplo, el usuario introduzca al inicio del programa.
Al programar, independientemente del lenguaje, debes indicarle a la computadora quetome el valor de a y lo sume tantas veces sea el valor de a, es decir, que lo multiplique (a²).
El resultado se guarda en alguna dirección de memoria.
Tome el valor de a y lo sume a sí mismo tantas veces indique el valor de b (multiplicar a x b) y después, sume el resultado de esa multiplicación a sí mismo (2ab) y guarde el nuevo resultado en alguna dirección de memoria.
Repita el paso 1 pero ahora con el valor de b y también guarde el resultado en una tercera dirección en memoria.
Sume los valores de esas tres direcciones de memoria.
Muestre el resultado en pantalla o lo que sea que muestre la información a quien use el programa.
Es cosa de poder abstraer una expresión matemática a sus componentes básicos, y darle las instrucciones paso a pasito a la máquina.
Pero debes pues.
Saber matemáticas y "pensar" como lo hace una computadora.