Recherche:

Tu as spécifié #include <boost/math/common_factor.hpp> dans ton code, pourtant il n'existe pas de répertoire « boost » dans le répertoire où tu as lancé ta commande g++. -I permet d'aider ton compilo...

Ce sont des algorithmes de la STL, qui travaillent sur des conteneurs (ex: std::vector). Réfère-toi à la doc :
http://en.cppreference.com/w/cpp/algorithm/transform...

Lis la doc Boost pour savoir comment compiler/tester un exemple :
http://www.boost.org/doc/libs/1_52_0/more/getting_started/unix-variants.html

Et essaie plutôt d'installer Boost via ton...

INCLUDEPATH += /usr/local/boost/ ou un truc du genre.
Tu es sous Linux, tu as donc installé boost avec sudo apt-get install boost-dev ou quelque chose comme ça ?

Généralement, c'est plutôt le distributeur de la librairie en question qui explique comment installer sa lib à lui. Exemple avec Boost, le couteau-suisse du C++ qui fournit pas mal de fonctions...