Ah, le problème c'est que _setmode() attend un file descriptor, alors que GetStdHandle() retourne un HANDLE (le truc au niveau en-dessous).
Tu peux essayer _fileno(stdout) à la place de _fileno(output) et voir si ça marche mieux.
Si ça ne marche pas, il faudra qu'on aille voir dans les sources de _setmode() pour voir ce que ça fait réellement sur la console en-dessous.