Recherche:

Tu peux déjà essayer de faire la différence entre en dessin et une photo, c'est peut-être plus simple pour le début.

Au pire tu peux faire ça avec des réseaux de neurones, tu auras de bon résultat...

Bah regarde une fonction qui détecte les zones trop homogène ou trop hétérogène sur ta photo.
Enfin c'est des fonctions de transformations, appliques en une qui va te ressortir une image en noir et...