Ok, podemos establecer la ecuación de la recta dado dos puntos,
<img src="https://tex.z-dn.net/?f=%5Cdisplaystyle%20%5Cfrac%7By-%20y_%7B1%7D%20%7D%7Bx-%20x_%7B1%7D%20%7D%20%3D%20%5Cfrac%7B%20y_%7B2%7D-%20y_%7B1%7D%20%7D%7Bx_%7B2%7D-%20x_%7B1%7D%20%7D%20" />
escojamos dos puntos, por ejemplo,
<img src="https://tex.z-dn.net/?f=%28x_%7B1%7D%2C%20y_%7B1%7D%20%29%3D%28-1%2C2%29%20%5C%5C%20%20%28x_%7B2%7D%2C%20y_%7B2%7D%20%29%3D%282%2C4%29%20%5C%5C%20%20%5C%5C%20%5Cdisplaystyle%20%5Cfrac%7By-%20y_%7B1%7D%20%7D%7Bx-%20x_%7B1%7D%20%7D%20%3D%20%5Cfrac%7B%20y_%7B2%7D-%20y_%7B1%7D%20%7D%7Bx_%7B2%7D-%20x_%7B1%7D%20%7D%20%20%5C%5C%20%5Cdisplaystyle%20%5Cfrac%7By-2%20%7D%7Bx-%20%28-1%29%20%7D%20%3D%20%5Cfrac%7B%204-%202%7D%7B2-%20%28-1%29%20%7D%20%20%5C%5C%20%20%5Cfrac%7By-2%20%7D%7Bx%2B1%20%7D%20%3D%20%5Cfrac%7B%202%7D%7B3%20%7D%20%20%5C%5C%203%28y-2%29%3D2%28x%2B1%29%20%5C%5C%20%20%5C%5C%203y-6%3D2x%2B2%20%5C%5C%20%5C%5C%20%20y%3D%20%5Cfrac%7B2x%2B8%7D%7B3%7D%20%20%3Df%28x%29" />
bien ahora si el tercer punto pasa por esa recta debe pertenecer a esa recta , entonces, reemplacemos las coordendas del tercer punto en la ecuaciónq ue obtuvimos, donde x = 5 y y = 6
debemos llegar a una igualdad
<img src="https://tex.z-dn.net/?f=%20f%285%29%3D%20%5Cfrac%7B2%285%29%2B8%7D%7B3%7D%20%3D6%20%5C%5C%20%20%5C%5C%20%20%5Cfrac%7B10%2B8%7D%7B3%7D%20%3D6%20%5C%5C%20%20%5C%5C%206%3D6" />
y llegamos a una igualdad que era lo que debía suceder si llegamos a aque 5 = 6 entonces ese punto no pertenecía ala recta.
Espero te sirva y si tienes alguna duda me avisa.