Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Coprocesseurs et calcul hétérogène Discussion :

Le GPGPU peut-il aider les bases de données ?


Sujet :

Coprocesseurs et calcul hétérogène

  1. #1
    Responsable Qt & Livres

    Le GPGPU peut-il aider les bases de données ?
    Bonjour,

    Il y a peu, l'IDAV (Institute for Data Analysis and Visualization), a publié un article sur l'utilisation des cartes graphiques pour accélérer le traitement des bases de données (http://www.idav.ucdavis.edu/publicat...pub?pub_id=960).

    En effet, les GPU possèdent de nombreuses unités de calcul, 240 coeurs pour la GeForce GTX 285, carte graphique grand-public. Ces unités de calcul sont donc beaucoup plus nombreuses que celles d'un CPU, qui n'en comporte encore que 4 dans le meilleur des cas pour le grand-public.

    Cependant, les SGBD actuels sont prévus pour utiliser des CPU, avec donc très peu d'unités de calcul : il faut repenser l'intégralité des algorithmes actuels pour pouvoir tirer parti d'une architecture aussi parallèle.

    Ce document propose une nouvelle structure d'indexation, parallèle, complètement pensée pour ces nouveaux processeurs aux multiples unités de calcul. De plus, elle permet d'éviter de consommer trop de mémoire, ce qui est crucial sur les GPU, où il n'est pas aussi facile d'ajouter de la mémoire.

    L'implémentation pour GPU reste beaucoup plus efficace que celle pour CPU, mais faut-il rappeler qu'elle est prévue pour un grand nombre d'unités de calcul, que les CPU ne peuvent pas encore fournir.

    Le GPGPU semble donc promis à un grand avenir dans le domaine des bases de données.

    Cette structure sera-t-elle utilisée dans des SGBD répandus et opensource, comme MySQL ou PostgreSQL, ou bien sera-t-elle plutôt réservée au marché du propriétaire, comme SQL Server ou Oracle ?

    Serait-il envisageable de l'utiliser à grande échelle, pour des services comme Google ?

    Qu'en est-il à plus petite échelle ? Serait-ce vraiment utile pour un petit forum ou un CMS, ou bien cela risque-t-il de plutôt en abaisser les performances ?

    Les gains espérés pourraient-ils arriver à un remplacement complet du parc de serveurs ?
    Vous souhaitez participer aux rubriques Qt ou PyQt (tutoriels, FAQ, traductions), HPC ? Contactez-moi par MP.

    Créer des applications graphiques en Python avec PyQt5
    Créer des applications avec Qt 5.

    Pas de question d'ordre technique par MP !

  2. #2
    Nouveau membre du Club
    Je suis content de voir qu'on trouve de plus en plus d'application avec les Processeurs Graphiques.
    En tout cas, je trouve que ça fait un peu "opposition" avec cet article:
    http://www.developpez.net/forums/d80...s-disparaitre/

  3. #3
    Expert éminent sénior
    Je n'y crois pas une minute encore une fois c'est du vapourware...
    est-ce que quelqu'un ici a travaillé avec des bases de données ?
    Parfois il y a des requêtes SQL qui mettent du temps à s'exécuter et puis le disque dur est très sollicité.
    Donc utiliser les possibilités d'une carte graphique c'est peanuts...
    j'avais bossé sur un projet appli VB + bases de données sous SAGE ou SAARI je ne sais plus trop la moindre requête ça pédalait pendant des minutes...

    En effet, les GPU possèdent de nombreuses unités de calcul, 240 coeurs pour la GeForce GTX 285, carte graphique grand-public. Ces unités de calcul sont donc beaucoup plus nombreuses que celles d'un CPU, qui n'en comporte encore que 4 dans le meilleur des cas pour le grand-public.

    Cependant, les SGBD actuels sont prévus pour utiliser des CPU, avec donc très peu d'unités de calcul : il faut repenser l'intégralité des algorithmes actuels pour pouvoir tirer parti d'une architecture aussi parallèle.
    La problèmatique est la suivante : que se passe-t-il si on fait une requêtes SQL sur plusieurs tables avec des jointures ?
    Je crois que des bdd comme MySQL utilisent des arbres binaires de recherches..
    et même si tu passes avec du code de traitement natif comme avec PL-SQL le code PL-SQL est interprété donc que le CPU n coeur ne change pas grand chose.

    Et puis surtout est-ce que cela peut-il améliorer les performances quand on a une base de données de plusieurs Teraoctets avec architecture disque RAID ?
    La théorie, c'est quand on sait tout et que rien ne fonctionne.
    La pratique, c'est quand tout fonctionne et que personne ne sait pourquoi.
    ( A Einstein)

  4. #4
    Membre expert
    Lecture très intéressante !

    L'exploitation optimale de cartes graphiques est liée directement à une nouvelle représentation des données en base ainsi que des indexes associés. Reste à savoir commet exploiter cela sur un environnement Unix dépourvu des 150 cartes graphiques .
    Emmanuel Lecoester
    => joomla addict.

  5. #5
    Nouveau membre du Club
    Citation Envoyé par Mat.M Voir le message
    Je n'y crois pas une minute encore une fois c'est du vapourware...
    est-ce que quelqu'un ici a travaillé avec des bases de données ?
    Parfois il y a des requêtes SQL qui mettent du temps à s'exécuter et puis le disque dur est très sollicité.
    Donc utiliser les possibilités d'une carte graphique c'est peanuts...
    j'avais bossé sur un projet appli VB + bases de données sous SAGE ou SAARI je ne sais plus trop la moindre requête ça pédalait pendant des minutes...


    La problèmatique est la suivante : que se passe-t-il si on fait une requêtes SQL sur plusieurs tables avec des jointures ?
    Je crois que des bdd comme MySQL utilisent des arbres binaires de recherches..
    et même si tu passes avec du code de traitement natif comme avec PL-SQL le code PL-SQL est interprété donc que le CPU n coeur ne change pas grand chose.

    Et puis surtout est-ce que cela peut-il améliorer les performances quand on a une base de données de plusieurs Teraoctets avec architecture disque RAID ?
    ben, si freeBSD tire profit des cartes fermi pour acceler l'OS.... la balle est dans le camp des developèurs

  6. #6
    Nouveau membre du Club
    GPU et BD
    notre big blue de 80 power7, n'est plus le même on a rajouter des cartes nvidia sur chaque lame..... et freeBSD 8.1..... ya pas foto, même sans base de données optimisée pour ça avec openCL ça lui donne un coup de fouet !!!
    car les telsa ne sont pas encore disponibles, pas de drivers optimisés openCL encore !!!

  7. #7
    Expert éminent sénior
    Citation Envoyé par ezmac Voir le message
    ya pas foto, même sans base de données optimisée pour ça avec openCL ça lui donne un coup de fouet !!!
    car les telsa ne sont pas encore disponibles, pas de drivers optimisés openCL encore !!!
    D'accord mais le Big Blue dont tu parles est-ce qu'il gère des bases de données "en production"
    Je serais curieux de voir ces performances dont tu parles je fais preuve de scepticisme...
    La théorie, c'est quand on sait tout et que rien ne fonctionne.
    La pratique, c'est quand tout fonctionne et que personne ne sait pourquoi.
    ( A Einstein)

  8. #8
    Expert confirmé
    Pour information : il semblerait que le domaine sur lequel la question originale porte soit en pleine effervescence, notamment dans le cas ou le système d'indexation mis en œuvre est complexe (exemple: indexation des pages web pour un moteur de recherche, requêtes, ...). Cf les papiers récents présentés à la WWW2009 et notamment Using Graphics Processors for High Performance IR Query Processing de Ding, He, Yan et Suel.
    Cette signature n'a pas pu être affichée car elle comporte des erreurs.

  9. #9
    Nouveau membre du Club
    Citation Envoyé par Mat.M Voir le message
    D'accord mais le Big Blue dont tu parles est-ce qu'il gère des bases de données "en production"
    Je serais curieux de voir ces performances dont tu parles je fais preuve de scepticisme...
    ben se sont des miliers de données minutes...... come se sont de données qui sont traitées avec la même operation, rien que du SIMD ( single instruction multiple data) ..... donc on revient en arrière au temps des DSP.... mais en trés puissant.

  10. #10
    Nouveau membre du Club
    Citation Envoyé par dourouc05 Voir le message
    Bonjour,

    Il y a peu, l'IDAV (Institute for Data Analysis and Visualization), a publié un article sur l'utilisation des cartes graphiques pour accélérer le traitement des bases de données (http://www.idav.ucdavis.edu/publicat...pub?pub_id=960).

    En effet, les GPU possèdent de nombreuses unités de calcul, 240 coeurs pour la GeForce GTX 285, carte graphique grand-public. Ces unités de calcul sont donc beaucoup plus nombreuses que celles d'un CPU, qui n'en comporte encore que 4 dans le meilleur des cas pour le grand-public.

    Cependant, les SGBD actuels sont prévus pour utiliser des CPU, avec donc très peu d'unités de calcul : il faut repenser l'intégralité des algorithmes actuels pour pouvoir tirer parti d'une architecture aussi parallèle.

    Ce document propose une nouvelle structure d'indexation, parallèle, complètement pensée pour ces nouveaux processeurs aux multiples unités de calcul. De plus, elle permet d'éviter de consommer trop de mémoire, ce qui est crucial sur les GPU, où il n'est pas aussi facile d'ajouter de la mémoire.

    L'implémentation pour GPU reste beaucoup plus efficace que celle pour CPU, mais faut-il rappeler qu'elle est prévue pour un grand nombre d'unités de calcul, que les CPU ne peuvent pas encore fournir.

    Le GPGPU semble donc promis à un grand avenir dans le domaine des bases de données.

    Cette structure sera-t-elle utilisée dans des SGBD répandus et opensource, comme MySQL ou PostgreSQL, ou bien sera-t-elle plutôt réservée au marché du propriétaire, comme SQL Server ou Oracle ?

    Serait-il envisageable de l'utiliser à grande échelle, pour des services comme Google ?

    Qu'en est-il à plus petite échelle ? Serait-ce vraiment utile pour un petit forum ou un CMS, ou bien cela risque-t-il de plutôt en abaisser les performances ?

    Les gains espérés pourraient-ils arriver à un remplacement complet du parc de serveurs ?

    rappeles toi qu'il y a openCL, chacun ne deverat pas avoir à reventer la roue....

  11. #11
    Nouveau membre du Club
    Citation Envoyé par ezmac Voir le message
    rappeles toi qu'il y a openCL, chacun ne deverat pas avoir à reventer la roue....
    jette un coup d'oeil sur freeBSD dans sa versin 8.1 (beta)... cet OS tire profit de Grand Central (je ne me rappele pas du nom de la version open source) et d'open CL..

    bien qu'il fasse réecrire une partie du code, la vitesse et puisance ça en vaux la chandelle.

  12. #12
    Membre confirmé
    La GTX 285, une carte grand public??? euhhhh...

  13. #13
    Membre expérimenté
    Ouais enfin si tu compares a une carte pro quadro fx 5600 a... 2000$ et qui est l'equivalent d'une... geforce 8800 GT avec plus de memoire vive... hum
    Je ne réponds à aucune question par MP, posez vos questions sur le forum adéquat.
    Profils : G+ - LinkedIn

  14. #14
    Membre éprouvé
    Citation Envoyé par Mat.M Voir le message
    Je n'y crois pas une minute encore une fois c'est du vapourware...
    est-ce que quelqu'un ici a travaillé avec des bases de données ?
    Oui sans être un expert ça fait un moment que je suis dedans.

    Citation Envoyé par Mat.M Voir le message

    Parfois il y a des requêtes SQL qui mettent du temps à s'exécuter et puis le disque dur est très sollicité.
    Donc utiliser les possibilités d'une carte graphique c'est peanuts...
    j'avais bossé sur un projet appli VB + bases de données sous SAGE ou SAARI je ne sais plus trop la moindre requête ça pédalait pendant des minutes...
    Bien sur mais ça dépend de plein d'autres facteurs comme la structure de la base, la complexité de la requête etc etc

    Citation Envoyé par Mat.M Voir le message

    La problèmatique est la suivante : que se passe-t-il si on fait une requêtes SQL sur plusieurs tables avec des jointures ?
    Je crois que des bdd comme MySQL utilisent des arbres binaires de recherches..
    et même si tu passes avec du code de traitement natif comme avec PL-SQL le code PL-SQL est interprété donc que le CPU n coeur ne change pas grand chose.
    Les moteurs de base de données sont des logiciels comme les autres et donc susceptible d'être optimisé. Les recherches peuvent être parallélisé par exemple. On commence chez nous à utiliser ces cartes pour optimiser des logiciels de calcul.
    La première chose qu'on découvre c'est que ce n'est pas simple, notamment au niveau de la gestion de la mémoire. Ensuite c'est encore très couteux en temps de développement. On ne peut pas l'appliquer ça à tout. On obtient dans certains cas des gains élevé et dans d'autres cas ce n'est pas flagrant. Il faut tester. Autre inconvénient majeur le logiciel devient difficilement distribuable car il est lié à du hardware.
    Il y a des jours où j'éprouve une haine profonde envers microsoft
    Venez vous défouler ici ou c'est amusant
    Mon modeste site et mes modestes oeuvres sont
    Rémi

  15. #15
    Expert éminent sénior
    Citation Envoyé par Gouyon Voir le message
    Les moteurs de base de données sont des logiciels comme les autres et donc susceptible d'être optimisé. Les recherches peuvent être parallélisé par exemple. On commence chez nous à utiliser ces cartes pour optimiser des logiciels de calcul.
    Je crois qu'il y a erreur ; une base de donnée n'utilise pas de calculs sauf si tu utilises implicitement des calculs dans les requêtes SQL par exemple si tu fais SELECT SUM [colonne] .
    Est-ce que tu sais comment fonctionne un moteur de base de donnée ?
    Un moteur de BDD quand tu fais des requêtes SQL construit des arbres de recherches donc je doute fortement que l'utilisation d'un GPU apporte quelque chose de vraiment pertinent.
    Surtout que quand tu fais des traitemens SQL que cela soit sous SQL-Server, Access , Oracle ou les autres le moteur a tendance à "swapper' sur disque dur...

    Pour un jeu vidéo utiliser le processeur de la carte graphique pour calculer des matrices sur des polygones là je dis ce n'est que mieux...
    pour faire des requêtes SQL avec Oracle là je suis vraiment sceptique de l'intérêt du processeur d'une carte graphique...
    c'est vraiment de la tartufferie..


    Citation Envoyé par dourouc05 Voir le message
    Bonjour,

    Il y a peu, l'IDAV (Institute for Data Analysis and Visualization), a publié un article sur l'utilisation des cartes graphiques pour accélérer le traitement des bases de données (http://www.idav.ucdavis.edu/publicat...pub?pub_id=960).

    Attention ce ne sont que des expérimentations effectuées par un institut de recherche.
    Or on est très loin du milieu de l'entreprise !
    Je dis encore une fois que c'est pas très crédible.
    La théorie, c'est quand on sait tout et que rien ne fonctionne.
    La pratique, c'est quand tout fonctionne et que personne ne sait pourquoi.
    ( A Einstein)

  16. #16
    Membre éprouvé
    Citation Envoyé par Mat.M Voir le message
    Je crois qu'il y a erreur ; une base de donnée n'utilise pas de calculs sauf si tu utilises implicitement des calculs dans les requêtes SQL par exemple si tu fais SELECT SUM [colonne] .
    Tout à fait mais je ne parlais pas de base de donnée mais de l'utilisation qu'on fait de ses cartes chez nous.

    Citation Envoyé par Mat.M Voir le message

    Est-ce que tu sais comment fonctionne un moteur de base de donnée ?
    Un moteur de BDD quand tu fais des requêtes SQL construit des arbres de recherches donc je doute fortement que l'utilisation d'un GPU apporte quelque chose de vraiment pertinent.
    N'étant pas un spécialiste des moteurs de BDD je ne peux pas dire. Maintenant si des gens sont en train d'y réfléchir laissons les pousser leur réflexion jusqu'au bout et on verra.

    Citation Envoyé par Mat.M Voir le message

    Surtout que quand tu fais des traitemens SQL que cela soit sous SQL-Server, Access , Oracle ou les autres le moteur a tendance à "swapper' sur disque dur...
    Ben oui window 32bit est limité en mémoire donc il faut bien utiliser le disque dur. Personnellement j'ai une base de donnée d'images qui est de l'ordre du To. Les images sont stockées sur disque et la base quant à elle tient largement en mémoire vive.
    Il y a des jours où j'éprouve une haine profonde envers microsoft
    Venez vous défouler ici ou c'est amusant
    Mon modeste site et mes modestes oeuvres sont
    Rémi

###raw>template_hook.ano_emploi###