Convertir une image couleur en noir et blanc avec partie en couleur

Moi je verrai plutôt ça comme ça :

On a l'image source en couleur.
On a une image masque en N&B (= découpe nette) ou en niveaux de gris (= découpe lisse) ou en dégradé de transparence (couleur opaque -> couleur transparente) qui représente un masque qui englobe les parties impactées. Ce masque peut être généré grâce dans un outils de dessin externe permettant de faire une découpe vectorielle ou de la peinture bitmap.
On a une image résultat vide.
On fait une copie de l'images source en la convertissant en niveaux de gris (l'image montrée n'est pas vraiment en N&B) : BufferedImage.TYPE_INT_ARBG -> BufferedImage.TYPE_BYTE_GRAY (ou une conversion manuelle plus fine si le résultat ne convient pas)
On crée une image intermédiaire.
On recopie le masque dedans.
On utilise la classe AlphaComposite (http://fr.wikipedia.org/wiki/Alpha_blending) pour dessiner l'image en niveaux de gris dedans (il y aura donc des "trous", des pixels transparents, a l'emplacement des taxis).
On recopie l'image source dans l'image résultat (tout est en couleur)
On recopie l'image intermédiaire dans l'image résultat (tout est en niveaux de gris, sauf les taxis qui sont en couleur).

Ça c'est la méthode objet, un peu gourmande mais simple a comprendre (les logiciels de dessin supportant les calques fonctionnent de manière similaire).

Une méthode plus bas niveaux et performante :

On a l'image source en couleur.
On a une image masque.
On a une image résultat vide.
Pour chaque pixel (x, y) de l'image source, on regarde la valeur du pixel (x, y) du masque. Si :

Le pixel (x, y) du masque est noir (resp. opaque) -> le pixel (x, y) dans l'image résultat est une conversion en niveaux de gris de la couleur du pixel (x, y) de l'image source -> couleur en niveau de gris.
Le pixel (x, y) du masque est blanc (resp. transparent) -> le pixel (x, y) dans l'image résultat identique a la couleur du pixel (x, y) de l'image source -> couleur identique a la source.
Le pixel (x, y) du masque est gris (resp translucide) -> le pixel (x, y) dans l'image résultat est une conversion en niveaux de gris de la couleur du pixel (x, y) de l'image source impacté par la couleur du pixel (x, y) de l'image source -> couleur délavée.