a esto se le llama combinatorio y debes hacerlo segun la formula
[tex]C \frac{n}{k} = \frac{n!}{k!(n-k)!} [/tex]
entonces tenemos segun tu ejercicio
[tex]C \frac{8}{3}= \frac{8!}{3!*5!}
[/tex]
el factorial (!) se desarrolla asi:
1!=1
2!=1*2
3!=1*2*3
4!=1*2*3*4
5!=1*2*3*4*5
entonces reemplazamos
[tex] \frac{8*7*6*5*4*3*2}{(5*4*3*2)(3*2)}
[/tex]
entonces se eliminan y te queda
[tex] 8*7 =56[/tex]