IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

C# Discussion :

SQLite POSTGRE - High load


Sujet :

C#

  1. #1
    Membre confirmé
    Profil pro
    Inscrit en
    Juillet 2009
    Messages
    192
    Détails du profil
    Informations personnelles :
    Âge : 32
    Localisation : France

    Informations forums :
    Inscription : Juillet 2009
    Messages : 192
    Par défaut SQLite POSTGRE - High load
    Salut, je dois maintenant faire face a une commande SQL Qui plante, probablement(read 99.99%) a cause de .. sa taille
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
                foreach (string s in array)
                {
     
                    SQLCMD.CommandText += "INSERT INTO MANGA (Name) VALUES ('" + s + "');";
                    i += SQLCMD.ExecuteNonQuery();
                    SQLCMD.CommandText = "";
                    Program.proggy.statusStrip1.Items[0].Text = "Updated " + i + " Querries";
                }
                SC.Close();
    l'array en question fait plus de 1200 Entrées toutes de gros strings.
    Ma question est :
    Comment traiter les grosses querry? Au début j'avais pensé a mettre tout les insert d'un seule coup mais ca avait l'air vachement gros, après j'ai pensé a tout divisé mais ça ne marche pas non plus. Donc si quelqu'un s'y connait en performance question SQLite...

    Après ma deuxième question se porte sur mon formulaire, comme vous pouvez le voir le StatsStrip1 est censé se mettre a jour a chaque querry mais la forme plante

  2. #2
    Membre expérimenté
    Profil pro
    Mangeur de gauffre
    Inscrit en
    Octobre 2007
    Messages
    4 413
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Mangeur de gauffre

    Informations forums :
    Inscription : Octobre 2007
    Messages : 4 413
    Par défaut
    Deux conseils déja

    1-

    Utilise un StringBuilder plutot que de faire des concaténation de string avec +=

    2- Construit UNE SEULE chaine de requete et execute en UNE SEULE fois


    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    StringBuilder sb=new StringBuilder()
     
    foreach (string s in array)
    {
      sb.AppendFormat("INSERT INTO MANGA (Name) VALUES ('{0}');",s);
    }
    SQLCMD.CommandText = sb.ToString();
    SQLCMD.ExecuteNonQuery();

  3. #3
    Rédacteur/Modérateur


    Homme Profil pro
    Développeur .NET
    Inscrit en
    Février 2004
    Messages
    19 875
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur .NET
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Février 2004
    Messages : 19 875
    Par défaut
    Citation Envoyé par F.Saad Voir le message
    Après ma deuxième question se porte sur mon formulaire, comme vous pouvez le voir le StatsStrip1 est censé se mettre a jour a chaque querry mais la forme plante
    Ca plante comment ? quelle est l'exception exactement ?
    Tu exécutes ce code dans un thread ? si oui, il faut passer par la méthode Invoke pour mettre à jour l'interface graphique :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    this.Invoke(
        new MethodInvoker(
            () => program.proggy.statusStrip1.Items[0].Text = "Updated " + i + " Querries"));
    Tu peux aussi utiliser un BackgroundWorker, et mettre à jour l'interface dans l'évènement ProgressChanged (qui est déclenché sur le thread de l'interface graphique)

  4. #4
    Membre confirmé
    Profil pro
    Inscrit en
    Juillet 2009
    Messages
    192
    Détails du profil
    Informations personnelles :
    Âge : 32
    Localisation : France

    Informations forums :
    Inscription : Juillet 2009
    Messages : 192
    Par défaut
    Citation Envoyé par olibara Voir le message
    Deux conseils déja

    1-

    Utilise un StringBuilder plutot que de faire des concaténation de string avec +=

    2- Construit UNE SEULE chaine de requete et execute en UNE SEULE fois


    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    StringBuilder sb=new StringBuilder()
     
    foreach (string s in array)
    {
      sb.AppendFormat("INSERT INTO MANGA (Name) VALUES ('{0}');",s);
    }
    SQLCMD.CommandText = sb.ToString();
    SQLCMD.ExecuteNonQuery();
    Merci pour le conseil, quelqu'un pourrait m'expliquer le raisonnement derrière par contre? le but étant d'apprendre et non de faire marcher

    Citation Envoyé par tomlev Voir le message
    Ca plante comment ? quelle est l'exception exactement ?
    Tu exécutes ce code dans un thread ? si oui, il faut passer par la méthode Invoke pour mettre à jour l'interface graphique :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    this.Invoke(
        new MethodInvoker(
            () => program.proggy.statusStrip1.Items[0].Text = "Updated " + i + " Querries"));
    Tu peux aussi utiliser un BackgroundWorker, et mettre à jour l'interface dans l'évènement ProgressChanged (qui est déclenché sur le thread de l'interface graphique)
    Non, tout est fait dans le thread principale, j'ai pensé a avoir recours au parallélisme, mais je n'arrive tjrs pas a passer des paramètres efficacement dans a mes fonction dans les threads

  5. #5
    Rédacteur/Modérateur


    Homme Profil pro
    Développeur .NET
    Inscrit en
    Février 2004
    Messages
    19 875
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur .NET
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Février 2004
    Messages : 19 875
    Par défaut
    on ne sait toujours pas comment ça plante... quelle est l'erreur obtenue ?

  6. #6
    Membre expérimenté
    Profil pro
    Mangeur de gauffre
    Inscrit en
    Octobre 2007
    Messages
    4 413
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Mangeur de gauffre

    Informations forums :
    Inscription : Octobre 2007
    Messages : 4 413
    Par défaut
    Merci pour le conseil, quelqu'un pourrait m'expliquer le raisonnement derrière par contre? le but étant d'apprendre et non de faire marcher
    1- Les concaténation de chaine s1+=s; sont tres gourmandes en ressource, le string builder est dédié a ce genre d'operation, je te conseille de faire une petite recherche a ce sujet

    2- Le deuxieme point me semble evident, plutot que d'executer 1200 requetes sequentiellement tu execute une seule requete et c'est le SQL engine qui se débrouille pour effectuer les 1200 insert le mieux qu'il peut

    Mais comme le rappelle tres bien TomLev tu n'est pas tres precis sur le problème rencontré !

  7. #7
    Membre confirmé
    Profil pro
    Inscrit en
    Juillet 2009
    Messages
    192
    Détails du profil
    Informations personnelles :
    Âge : 32
    Localisation : France

    Informations forums :
    Inscription : Juillet 2009
    Messages : 192
    Par défaut
    Citation Envoyé par olibara Voir le message
    1- Les concaténation de chaine s1+=s; sont tres gourmandes en ressource, le string builder est dédié a ce genre d'operation, je te conseille de faire une petite recherche a ce sujet

    2- Le deuxieme point me semble evident, plutot que d'executer 1200 requetes sequentiellement tu execute une seule requete et c'est le SQL engine qui se débrouille pour effectuer les 1200 insert le mieux qu'il peut

    Mais comme le rappelle tres bien TomLev tu n'est pas tres precis sur le problème rencontré !
    1.Message recu.
    2. Le probléme est que le statusstrip censé se mettre a jour :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
     i += SQLCMD.ExecuteNonQuery();
                    SQLCMD.CommandText = "";
                    Program.proggy.statusStrip1.Items[0].Text = "Updated " + i + " Querries";
    ne se fait qu'après la fin de l'insertion de toutes les entrées. Or selon le déroulement de mon code, du moins a la main. Ça devrait se faire après chaque insertion.
    La forme plante complétement jusqu'a la fin de l'opération

  8. #8
    Membre expérimenté
    Profil pro
    Mangeur de gauffre
    Inscrit en
    Octobre 2007
    Messages
    4 413
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Mangeur de gauffre

    Informations forums :
    Inscription : Octobre 2007
    Messages : 4 413
    Par défaut
    La forme plante complétement jusqu'a la fin de l'opération
    Donc ce n'est pas reellement un plantage mais un freeze ce qui est tout a fait normal dans la maniere dont tu traite les choses

    TomLev ta conseillé d'utiliser un autre thread pour faire ton operation precisément pour eviter le freeze de ta form qui s'execute elle dans le thread principal

    Et si tu fais comme je t'ai indiqué ?
    Combien de temps prends la constitution du StringBuilder ?
    Combien de temps prends ensuite le query ?

  9. #9
    Membre confirmé
    Profil pro
    Inscrit en
    Juillet 2009
    Messages
    192
    Détails du profil
    Informations personnelles :
    Âge : 32
    Localisation : France

    Informations forums :
    Inscription : Juillet 2009
    Messages : 192
    Par défaut
    Citation Envoyé par olibara Voir le message
    Donc ce n'est pas reellement un plantage mais un freeze ce qui est tout a fait normal dans la maniere dont tu traite les choses

    TomLev ta conseillé d'utiliser un autre thread pour faire ton operation precisément pour eviter le freeze de ta form qui s'execute elle dans le thread principal

    Et si tu fais comme je t'ai indiqué ?
    Combien de temps prends la constitution du StringBuilder ?
    Combien de temps prends ensuite le query ?
    Je n'arrive pas a faire des threads avec des paramètres.

    -Assez de temps pour freezer la forme.

    Je vais mettre le topic sur résolu comme je suis arrivé a remplir la DB même si sa prend beaucoup de temps.

    Mais une dernière question si quelqu'un la voie, est-il possible comme en php d'obtenir le temps qu'a pris la query?

  10. #10
    Rédacteur/Modérateur


    Homme Profil pro
    Développeur .NET
    Inscrit en
    Février 2004
    Messages
    19 875
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur .NET
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Février 2004
    Messages : 19 875
    Par défaut
    Citation Envoyé par F.Saad Voir le message
    Je n'arrive pas a faire des threads avec des paramètres.
    C'est à dire ? qu'est-ce que tu veux passer en paramètre ?

    Citation Envoyé par F.Saad Voir le message
    Mais une dernière question si quelqu'un la voie, est-il possible comme en php d'obtenir le temps qu'a pris la query?
    Stopwatch

  11. #11
    Membre confirmé
    Profil pro
    Inscrit en
    Juillet 2009
    Messages
    192
    Détails du profil
    Informations personnelles :
    Âge : 32
    Localisation : France

    Informations forums :
    Inscription : Juillet 2009
    Messages : 192
    Par défaut
    Citation Envoyé par tomlev Voir le message
    C'est à dire ? qu'est-ce que tu veux passer en paramètre ?



    Stopwatch
    Bah, pour faire un thread j'utilise ca :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    Thread thread = new Thread(
    new ThreadStart(parametereless method));
    la méthode est non seulement void mais la syntaxe fait que l'on ne peut y insérer de param

  12. #12
    Rédacteur/Modérateur


    Homme Profil pro
    Développeur .NET
    Inscrit en
    Février 2004
    Messages
    19 875
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur .NET
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Février 2004
    Messages : 19 875
    Par défaut
    Citation Envoyé par F.Saad Voir le message
    Bah, pour faire un thread j'utilise ca :
    Thread thread = new Thread(
    new ThreadStart(parametereless method));
    la méthode est non seulement void mais la syntaxe fait que l'on ne peut y insérer de param
    Il faut utiliser un ParameterizedThreadStart à la place d'un ThreadStart

    Sur le même principe, tu peux aussi utiliser un BackgroundWorker en passant un paramètre à RunWorkerAsync, que tu récupères ensuite dans le DoWork via e.Argument

    Citation Envoyé par olibara Voir le message
    je n'ai jammais trouvé l'outil qui permettait de faire une recherche dans les nombreux tuto proposé. Si ca existe ca ne m'a vraiment jamais sauté aux yeux et si ca n'exite pas c'est tout aussi dommage
    Ben Google
    "tes termes de recherche site:developpez.com"
    Mais je ne crois pas qu'on ait de tuto très complet sur les threads en .NET... Voilà peut-être une idée d'article, un jour ou j'aurai le temps

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. Base Sqlite et PostGR
    Par mekki_soft dans le forum PureBasic
    Réponses: 0
    Dernier message: 12/03/2013, 15h41
  2. High-Availability Load Balancer
    Par info1989 dans le forum RedHat / CentOS / Fedora
    Réponses: 1
    Dernier message: 11/03/2013, 21h38
  3. load sqlite ne marche pas
    Par stade13 dans le forum Zend_Db
    Réponses: 3
    Dernier message: 03/08/2012, 00h13
  4. Réponses: 1
    Dernier message: 28/08/2008, 12h46
  5. [Kylix] Kylix - Postgres
    Par Miltown dans le forum EDI
    Réponses: 1
    Dernier message: 29/05/2002, 20h19

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo