Discussion :

[kmaniche]

Bonsoir,

Je veux anticiper un petit peu, pour le parallélisme voici ma question :
Disposant d'un tableau en 3D (X, Y, Z), je souhaite faire les mêmes calculs sur les sous tableaux 2D (X, Y) pour l'ensemble des couches Z, Est-ce que je suis sur la bonne voie ?

Autrement dit, j'ai Z matrice (X, Y) qui doivent subir le même traitement, puis-je songer à utiliser Cuda dans mon cas ?

Merci pour vos réponses.

[gbdivers]

Salut

Réponse facile : ça dépend ! (ok, cette réponse est un peu la réponse universelle, qui marche dans 99 % des cas)

Est-ce que c'est faisable ? Oui, sans problème. Regarde l'exemple sur la multiplication de 2 grosses matrices, on découpe les matrices en plus petites matrices et l'on fait les calculs comme si on avait Z matrices. Dans ton cas, tu supprimes simplement l'étape consistant à rassembler tous les résultats en 1 seul.

Est-ce intéressant d'utiliser CUDA ? Cela va dépendre de tes données. Avec le GPU computing, tu vas avoir un surcoût lié au transfert des données entre le CPU et le GPU. Plus le ration temps-transfert/temps-calcul est élevé, moins ça sera intéressant d'utiliser le GPU.

Comment organiser les tâches ? A mon sens (surtout si tu débutes avec le GPU Computing) le plus important est de ne pas se fier à des arguments "théorique" pour trouver la meilleure organisation, mais faire du profiling sur plusieurs solutions pour trouver la plus performante (après optimisation, en particulier l'overlapping). Ensuite, ça dépend de la taille et du nombre de matrices. A priori (mais crois moi pas sur parole, fais des tests), je dirais que si tu as beaucoup de petites matrices, le plus efficace sera de donner 1 calcul par thread. Si tu as peu de grosses matrices, 1 calcul à la fois. Un intermédiaire, 1 calcul par SM.

Bon courage

[LinuxUser]

Comme le dit gbdivers, il y a beaucoup de façon de faire, plus tu pratiqueras et plus tu seras à même de choisir les bonnes solutions.
J'avais une problématique assez similaire à la tienne, j'ai utilisé des textures memory pour lire les matrices 2D et une surface memory pour l'écriture et j'ai gagné pas mal de temps (x30 je crois, je sais plus exactement).
Après il y a d'autres moyens pour gagner du temps encore (mutli-GPU, double stream, ...) ça dependra de la taille et de la nature de tes données.