3. Ana tiene en su cartera billetes de $50 y $200, en total tiene 20 billetes y $5000 ¿Cuántos billetes tiene de cada tipo?

Tu sistema de ecuaciones quedaria de la siguiente manera :

si,

x = billetes de 50

y = billetes de 200

x + y = 20 ( esta ecuación representa la suma de los billetes sin importar cuanto vale.

Es decir, sabes que en total tienes en número 20 billetes que pueden ser x o y)

y tu otra ecuación ya involucra el valor de estos billetes, ya que estas hablando del dinero total :

50 x + 200y = 5, 000.

En resumen tienes

1) 50x + 200y = 5, 000

2) x + y = 20

no continúo porque el problema está mal.

Porque aunque tengas los 20 billetes de $200 no llegas a $5, 000.

Tendrías $4, 000.