Hola,
Antes de empezar te recuerdo que la combinatoria simplemente es el producto de todos los casos posibles.
A) Si la clave está constituida por 5 letras, entonces tendremos una palabra con 5 letras cualesquiera, OJO, no nos están diciendo 5 letras distintas, por lo que podemos repetir letras, entonces tenemos que en la primera cifra puede haber 1 de 27 letras (27 es el número de casos posibles), en la segunda cifra también puede haber 1 de 27 letras, y así sucesivamente, entonces, en total puede haber el siguiente número de combinaciones :
<img src="https://tex.z-dn.net/?f=27%2A27%2A27%2A27%2A27%20%3D%2027%5E5%20%3D%2014.348.907" /> combinaciones.
B) Aplicando la misma lógica, para una clave de 8 letras tendremos<img src="https://tex.z-dn.net/?f=27%5E8%20%3D%20282.429.536.481" /> combinaciones.
C) Con los dígitos aplicamos absolutamente la misma lógica pero ahora debemos tener en cuenta que ya estamos hablando de números y no de letras, y que sólo tenemos 10 números posibles {0, 1, 2, 3, 4, 5, 6, 7, 8, 9}, entonces tendremos el siguiente número de combinaciones :
<img src="https://tex.z-dn.net/?f=10%2A10%2A10%2A10%20%3D%2010%5E4%20%3D%2010.000" /> combinaciones.
D) Listo ahora debemos combinar números y letras, recuerda, si no te especifican que las cifras no se deben repetir entonces debes tomar en cuenta el caso donde se pueden repetir, en este caso podemos repetir, ya que nuestra clave tendrá3 dígitos y 3 letras, tendremos el siguiente número de combinaciones :
<img src="https://tex.z-dn.net/?f=10%20%2A%2010%2A%2010%2A27%2A27%2A27%20%3D%2019.683.000" /> combinaciones.
E)<img src="https://tex.z-dn.net/?f=1.434.890.700.000" /> combinaciones.
F)<img src="https://tex.z-dn.net/?f=3.874.204.890.000" /> combinaciones.
G)<img src="https://tex.z-dn.net/?f=531.441.000.000" /> combinaciones.
Resumen : Lo que aplicamos acá se llaman permutaciones, las permutaciones son combinaciones donde SÍ IMPORTA EL ORDEN, pero no importa si se repiten o no los datos.
Cualquier duda me avisas, fue un placer, saludos.