O que você precisa saber antes de manipular uma imagem…
Cores Parecidas
Para determinar qual dentre duas cores (RGB) é a que mais se parece com uma terceira, basta calcular a distância entre as cores no espaço RGB.
Quanto menor a distância, mais parecidas são Cor 1 e Cor 2.
Tom de Cinza
Uma cor é um tom de cinza sempre que seus componentes R, G e B são iguais

Grau de luminosidade
Grau de luminosidade de uma cor significa quanto o olho humano pode perceber desta cor. Pode ser calculado por Luminosidade = R*0.3 + G*0.59 + B *0.11.
Método do Limiar (threshold)
Determina-se um nível de cinza (Limiar) a partir do qual o ponto deve ser acesso.
Para cada ponto da imagem, seu nível de cinza limiar acenderá o ponto. Caso contrário, apagará.
O limiar pode ser escolhido como a intensidade média do palette da imagem. Gera uma imagem de baixa qualidade, entretanto é um algortimo rápido.
Fonte: http://www.inf.pucrs.br Prof. Dr. Márcio Serolli Pinho.