Encodage des caractère MySQL

Bonjour, il y a quelques sujets qui trainent sur le net concernant ce problème, mais aucun ne me donne la solution car ils sont souvent liées à PHP.
L'encodage des caractères semble être une source d'ennuis à pas mal de personnes. J'ai déjà lu plusieurs fois ce tutoriel MySQL : http://antoun.developpez.com/mysql5/jeux-collations/

dans les requêtes d'insertion, je peux très bien insérer des données avec un caractère spécial (é è ç à â ä ê ë î ï ô ö). Par contre lors du sélect, ça me renvoi quelque chose de pas beau.
Il me faut donc récupérer des données propres.
Est-ce réellement un configuration du SGBD ou bien est-ce au programme de convertir ce qu'il reçoit ? Le programme est en java et ce sont des strings standard (UTF-8 il me semble) qui sont envoyé au SGBD.

Merci de votre aide

J'ai fais un set names cp850 dans la console et ça semble corriger pas mal de choses. Je vais voir à l'utilisation