Adaptation application à tout type d'écran et optimisation

Afin d'être sûr de faire ce qu'il y de mieux, je me tourne vers vous.
Voici ma problématique : j'ai développé une application avec tous les objets définis en unité DP. Certains layout sont réalisés en XML, d'autres sont créés dynamiquement.
Je viens de tester et de lire plusieurs tutoriels pour faire en sorte que mes écrans soient totalement adaptables à la plupart des écrans smartphones ...
Et c'est la que je bloque (dans la compréhension), donc je voudrais savoir pour vous qu'est ce qui est le mieux de faire ...

1 - Est ce que je prend 4 à 6 AVD pour tester la pluspart des cas de figures ? Et dans ce cas, quels sont les paramètres de chaque AVD que vous me conseiller.
J'ai commencé à en créer un : 320x480 mdpi mais quand je contrôle en display metric, j'obtiens 160 dpi ...
J'ai tout développé sur un nexus 5 (avd + réel) : le display métric, j'obtiens 480 dpi.

2 - Une fois cela fait, comment vaut il mieux que je fasse ?
a => je teste avec display metric dans quelle configuration générale je suis et je retaille et repositionne manuellement (je peux le faire ne serait ce que sur les écrans crée dynamiquement)
b => je créé des sous dossier pour positionner mes objets (layout et autre) dedans et dans ce cas quels seront ces noms ? (voir 1) et si j'ai bien compris, il me faudra créer une sous arborescence de ce type dans les layout, les drawables, les styles ???

Vous l'aurez compris, j'ai besoin de clareté la dessus. Merci d'avance.

Edit :
Après 48h de tests la dessus, je commence à comprendre mes soucis.
Donc ce que j'ai fait (ça peut être utilise pour d'autre), j'ai crée des répertoires values-mdpi ... -hdpi ... -xhdpi ... pour pouvoir faire varier la taille de certains objets grâce au fichier dimens.xml qui fonctionne comme un style pour les tailles, et, j'ai commencé à identifier les objets qui se redimensionnent automatiquement en unité DP et ceux qui ne le font pas.
C'était la que je comprenais pas, par exemple :
- je dois utiliser dimens.xml pour un scrollview, un listview, des boutons ...
- je n'ai pas besoin d'utiliser dimens.xml pour des imageview, ...

En second lieu, j'ai vérifié pour l'instant le rendu sur du mdpi (avd), hpdi (tel), xhdpi (avd & tel). La dessus, je suis encore en recherche d'expérience ou de conseil car en testant en réel avec un SUNSET 2, j'ai eu quelques surprises. La "catégorisation" des familles d'affichages (mdpi, hdpi, ...) semble un peu poreuse ... Le SUNSET ne prenait pas les images -hdpi mais prenait le dimens.xml -hdpi ?!

Voilà si quelqu'un d'autre peut me renseigner sur les objets qui fonctionnent bien en dp et ceux qui ne fonctionnent pas en dp ... ça me permettrait de mieux organiser mon code.

Je suis encore pas au top, je le sais, par exemple, j'arrive pas à redimensionner le contenu d'un listview tout simple (taille de la police) mais ça m'aiderait à bien comprendre les mécanismes.
Merci d'avance.