Ok, vamos por partes pq eu quero explicar isso aqui
na hora de capturar a imagem que vai virar pincel, use um layer em modo grayscale ou monocrome (1a imagem)
Ai vc pode pintar uma imagenzinha em preto e branco, e usar edit > register material > image pra registrar como ponta de pincel (2a imagem)