IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Java Discussion :

Algo gourmand - Optimisation de mémoire


Sujet :

Java

Vue hybride

Message précédent Message précédent   Message suivant Message suivant
  1. #1
    Membre très actif

    Inscrit en
    Août 2005
    Messages
    401
    Détails du profil
    Informations forums :
    Inscription : Août 2005
    Messages : 401
    Par défaut Algo gourmand - Optimisation de mémoire
    Bonjour à tous,

    J'ai un algorithme qui doit permettre d'enregistrer 700 000 enregistrements dans ma BDD, seulement j'obtiens ce message d'erreur à l'enregistrement 574212... :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
     
    Exception in thread "Thread-0" java.lang.OutOfMemoryError: Java heap space
            at java.lang.StringCoding$StringEncoder.encode(StringCoding.java:249)
            at java.lang.StringCoding.encode(StringCoding.java:289)
            at java.lang.String.getBytes(String.java:954)
            at com.mysql.jdbc.StringUtils.getBytes(StringUtils.java:560)
            at com.mysql.jdbc.StringUtils.getBytes(StringUtils.java:719)
            at com.mysql.jdbc.Buffer.writeStringNoNull(Buffer.java:704)
            at com.mysql.jdbc.MysqlIO.sqlQueryDirect(MysqlIO.java:2595)
            at com.mysql.jdbc.ConnectionImpl.execSQL(ConnectionImpl.java:2728)
            at com.mysql.jdbc.StatementImpl.executeUpdate(StatementImpl.java:1811)
            at com.mysql.jdbc.StatementImpl.executeUpdate(StatementImpl.java:1899)
            at database.Database.query(Database.java:55)
            at game.world.World.createWorld(World.java:247)
            at game.world.World.loadWorld(World.java:49)
            at game.GameManager.loadWorld(GameManager.java:41)
            at network.Server.start(Server.java:34)
            at core.Application.run(Application.java:23)
            at java.lang.Thread.run(Thread.java:679)
    World.java : (Algo qui déclenche l'exception)
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
     
    String req;
     
    		for(int i=0;i<XSIZEWORLD;i++) {
    			for(int j=0;j<YSIZEWORLD;j++) {
     
    				req = "INSERT INTO REGION (id_region, libelle_region, id_climat)" +
    						"VALUES (NULL,  'SE_"+numRegion+"', '"+climat+"')";
    				this._db.query(req);
    }
    }
    Database.java :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
     
    	public int query(String req) {
    		Statement state = null;
    		ResultSet rs = null;
    		int id = 0;
     
    		try {
    			state = (Statement) conn.createStatement();
    			state.executeUpdate(req, Statement.RETURN_GENERATED_KEYS);
     
    			rs = state.getGeneratedKeys();
    			if (rs.next()){
    				id=rs.getInt(1);
    			}
    		} catch (SQLException e) {
    			e.printStackTrace();
    		}
     
    		state = null;
    		rs = null;
    		req = null;
     
    		return id;
    	}
    Est-ce qu'il y a des choses qui vous choque ? J'ai beau exécuter comme ceci :
    java -jar se.jar -server -port 20000 -Xms1024M -Xmx2048M -Xss1024M
    Rien à faire...

    Une petite aide serait la bienvenue...

  2. #2
    Membre émérite
    Inscrit en
    Mars 2006
    Messages
    848
    Détails du profil
    Informations personnelles :
    Âge : 41

    Informations forums :
    Inscription : Mars 2006
    Messages : 848
    Par défaut
    Bonjour,

    Tu exécutes toujours la même requête SQL, donc commence par utiliser un PreparedStatement et une String constante.

    Si le problème persiste, il nous faudra plus de code.

  3. #3
    Membre très actif

    Inscrit en
    Août 2005
    Messages
    401
    Détails du profil
    Informations forums :
    Inscription : Août 2005
    Messages : 401
    Par défaut
    Est-ce que tu as un article ou un lien qui explique la différence entre un Statement et un PreparedStatement ?

    Car le problème provient du fait qu'il y a allocation mémoire alors que ce n'est pas utilise vu que je fais toujours la même requête Sql.

    Je vais tester ta solution :

    Après le test, les preparedStatement c'est encore pire... je n'arrive plus qu'à enregistrer 298451 enregistrements... :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
     
    	public int query(String req) {
    		PreparedStatement state = null;
    		ResultSet rs = null;
    		int id = 0;
     
    		try {
    			state = (PreparedStatement) conn.createStatement();
    			state.executeUpdate(req, Statement.RETURN_GENERATED_KEYS);
     
    			rs = state.getGeneratedKeys();
    			if (rs.next()){
    				id=rs.getInt(1);
    			}
    		} catch (SQLException e) {
    			e.printStackTrace();
    		}
     
    		state = null;
    		rs = null;
    		req = null;
     
    		return id;
    	}

  4. #4
    Membre émérite
    Inscrit en
    Mars 2006
    Messages
    848
    Détails du profil
    Informations personnelles :
    Âge : 41

    Informations forums :
    Inscription : Mars 2006
    Messages : 848
    Par défaut
    Tu peux jeter un oeil à la FAQ JDBC par exemple

  5. #5
    Membre très actif

    Inscrit en
    Août 2005
    Messages
    401
    Détails du profil
    Informations forums :
    Inscription : Août 2005
    Messages : 401
    Par défaut
    J'ai optimisé mon algo avec les PreparedStatement, mieux que le script ci-dessus et cela à fonctionné parfaitement.

    Merci à vous.

  6. #6
    Expert éminent
    Avatar de adiGuba
    Homme Profil pro
    Développeur Java/Web
    Inscrit en
    Avril 2002
    Messages
    13 938
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Java/Web
    Secteur : Transports

    Informations forums :
    Inscription : Avril 2002
    Messages : 13 938
    Billets dans le blog
    1
    Par défaut
    Salut,


    Il est strictement inutile de mettre à null une variable locale !!

    Par contre les Statement et les ResultSet sont des ressources qui doivent être libéré proprement via leur méthode close(), sinon le driver JDBC ou la BD risquent de conserver certaines données en mémoire...

    Il faut donc impérativement libérer ces ressources via un try/finally :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    	public int query(String req) {
    		int id = 0;
    		try {
    			PreparedStatement state = (PreparedStatement) conn.createStatement();
    			try {
    				state.executeUpdate(req, Statement.RETURN_GENERATED_KEYS);
    				ResultSet rs = state.getGeneratedKeys();
    				try {
    					if (rs.next()){
    						id=rs.getInt(1);
    					}
    				} finally {
    					rs.close();
    				}
     
    			} finally {
    				state.close();
    			}
    		} catch (SQLException e) {
    			e.printStackTrace();
    		} 
    		return id;
    	}


    Si tu tournes sous Java 7, tu peux simplifier cela avec le try-with-ressources :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    	public int query(String req) {
    		int id = 0;
    		try (PreparedStatement state = (PreparedStatement) conn.createStatement()) {
    			state.executeUpdate(req, Statement.RETURN_GENERATED_KEYS);
    			try (ResultSet rs = state.getGeneratedKeys()) {
    				if (rs.next()){
    					id=rs.getInt(1);
    				}
    			}
    		} catch (SQLException e) {
    			e.printStackTrace();
    		} 
    		return id;
    	}

    Attention également au fait que l'exception n'est pas très bien géré... Si tu fais cela dans un batch tu risques de ne pas voir les problèmes potentiels puisque ton appli continuera à tourner normalement...


    a++

Discussions similaires

  1. Algo pour optimiser le stockage de donnéees
    Par winzzz dans le forum C++
    Réponses: 16
    Dernier message: 12/10/2009, 16h01
  2. optimiser java mémoire, charge
    Par cdm1024 dans le forum Général Java
    Réponses: 3
    Dernier message: 24/02/2009, 17h17
  3. Optimiser la mémoire pour réduire le temp d'import
    Par Bourak dans le forum Administration
    Réponses: 20
    Dernier message: 03/11/2008, 10h23
  4. Optimiser la mémoire d'une app VB 2005
    Par Diabless6 dans le forum VB.NET
    Réponses: 34
    Dernier message: 21/08/2007, 19h18
  5. Optimisation de mémoire / rapiditée
    Par Zenol dans le forum C++
    Réponses: 9
    Dernier message: 25/09/2005, 11h18

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo