IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Shell et commandes GNU Discussion :

Compression à la volée


Sujet :

Shell et commandes GNU

  1. #1
    Membre confirmé
    Homme Profil pro
    Ingénieur systèmes et réseaux
    Inscrit en
    Décembre 2004
    Messages
    144
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 49
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Ingénieur systèmes et réseaux

    Informations forums :
    Inscription : Décembre 2004
    Messages : 144
    Par défaut Compression à la volée
    Bonjour,

    je souhaite compresser à la volée de la manière suivante:

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -exec zgrep $pattern {} \; > log_20130619.txt | xargs gzip
    Mon fichier log_20130619.txt se crée bien mais n'est pas compressé au fil de l'eau.

    Une idée sur l'origine du problème?

    Merci

    kondor76

  2. #2
    Invité
    Invité(e)
    Par défaut
    Est-ce le fichier de log ou les fichiers retournés par le find que tu souhaites compresser?

  3. #3
    Membre confirmé
    Homme Profil pro
    Ingénieur systèmes et réseaux
    Inscrit en
    Décembre 2004
    Messages
    144
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 49
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Ingénieur systèmes et réseaux

    Informations forums :
    Inscription : Décembre 2004
    Messages : 144
    Par défaut
    Citation Envoyé par ecatomb Voir le message
    Est-ce le fichier de log ou les fichiers retournés par le find que tu souhaites compresser?
    le fichier de log.txt, le find affichant les lignes contenues dans d'autres fichiers...

  4. #4
    Expert confirmé Avatar de disedorgue
    Homme Profil pro
    Ingénieur intégration
    Inscrit en
    Décembre 2012
    Messages
    4 357
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur intégration
    Secteur : High Tech - Opérateur de télécommunications

    Informations forums :
    Inscription : Décembre 2012
    Messages : 4 357
    Par défaut
    Bonjour,

    Par défaut gzip compresse l'entrée standart sur la sortie standard, donc un simple:
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -exec zgrep $pattern {} \; | gzip >log_20130619.txt.gz
    devrait le faire.

  5. #5
    Invité
    Invité(e)
    Par défaut
    D'après ce que j'ai vu de xarg, il était à utiliser pour compresser les fichier que la commande find trouve. Ta commande me paraissait donc bizarre.

  6. #6
    Expert confirmé
    Homme Profil pro
    Développeur informatique en retraite
    Inscrit en
    Avril 2008
    Messages
    2 103
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Côtes d'Armor (Bretagne)

    Informations professionnelles :
    Activité : Développeur informatique en retraite

    Informations forums :
    Inscription : Avril 2008
    Messages : 2 103
    Par défaut
    Citation Envoyé par ecatomb Voir le message
    D'après ce que j'ai vu de xarg, il était à utiliser pour compresser les fichier que la commande find trouve.
    Hou là! ça manque de clarté, voire de cohérence!

    1) Un coup, tu dis que le find retourne les lignes des fichiers (dans le log).
    2) Un autre coup, tu souhaites que find retourne le nom des fichiers pour les comprimer.

    Il me semble que Disedorgue répondait à l'assertion n°1.

    Pour l'assertion n°2, il me semble (pas testé) qu'il suffit de passer l'option '-l' à grep:

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -exec zgrep -l "$pattern" {} \; | xargs gzip

  7. #7
    Membre prolifique
    Avatar de Sve@r
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Février 2006
    Messages
    12 840
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Oise (Picardie)

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : Février 2006
    Messages : 12 840
    Billets dans le blog
    1
    Par défaut
    Citation Envoyé par ecatomb Voir le message
    D'après ce que j'ai vu de xarg, il était à utiliser pour compresser les fichier que la commande find trouve. Ta commande me paraissait donc bizarre.
    Salut
    Si tu veux compresser les fichiers trouvés par find
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -exec gzip -9 {} \;
    Si tu veux compresser le résultat affiché par find
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -print | gzip -c9 >result.gz
    xargs (utilisé pour traiter une liste d'arguments) ne sert à rien vu que find sait déjà traiter cette liste dans le {}...
    Mon Tutoriel sur la programmation «Python»
    Mon Tutoriel sur la programmation «Shell»
    Sinon il y en a pleins d'autres. N'oubliez pas non plus les différentes faq disponibles sur ce site
    Et on poste ses codes entre balises [code] et [/code]

  8. #8
    Invité
    Invité(e)
    Par défaut
    Citation Envoyé par jack-ft Voir le message
    Pour l'assertion n°2, il me semble (pas testé) qu'il suffit de passer l'option '-l' à grep:

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -exec zgrep -l "$pattern" {} \; | xargs gzip
    C'est ça qu'il me semble avoir vu en regardant ce que faisait xarg (que je ne connaissais pas)

    Je pense que kondor mélangeait la méthode pour l'assertion n°1 et celle pour l'assertion n°2

    Citation Envoyé par Sve@r Voir le message
    xargs (utilisé pour traiter une liste d'arguments) ne sert à rien vu que find sait déjà traiter cette liste dans le {}...
    Exact, même je fais plutôt du ls -l avec le find ^^

    xarg ne sert donc à rien avec la commande find?
    Est-il utile avec d'autres commandes?

  9. #9
    Expert confirmé Avatar de disedorgue
    Homme Profil pro
    Ingénieur intégration
    Inscrit en
    Décembre 2012
    Messages
    4 357
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur intégration
    Secteur : High Tech - Opérateur de télécommunications

    Informations forums :
    Inscription : Décembre 2012
    Messages : 4 357
    Par défaut
    Un cas d'exemple d'utilisation de xargs (qui pour le problème lui-même était plus pour le fun) mais que l'on pourrait rencontrer dans un cas pratique...:
    http://www.developpez.net/forums/d13...e/#post7355350

    En gros xargs, est pratique pour toutes les commandes qui ne savent par exemple que traiter des arguments et non une entrée de type file descriptor comme echo par exemple.
    Ce que j'essaye de faire comprendre, c'est que xargs sert à gérer des arguments et non une entrée de type file descriptor (le pipe le fait très bien).

  10. #10
    Membre prolifique
    Avatar de Sve@r
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Février 2006
    Messages
    12 840
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Oise (Picardie)

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : Février 2006
    Messages : 12 840
    Billets dans le blog
    1
    Par défaut
    Citation Envoyé par ecatomb Voir le message
    xarg ne sert donc à rien avec la commande find?
    Non puisque find possède un outil permettant de représenter les fichiers trouvés (les accolades) pour les faire passer à une commande externe (via exec)

    A noter que la commande externe est exécutée à chaque fichier et non en une fois globale (on le voit si on fait un truc de ce genre: find . -name "*.py" -exec vi {} \; => le "vi" est lancé à chaque fichier

    Citation Envoyé par ecatomb Voir le message
    Est-il utile avec d'autres commandes?
    Oui quand les commandes ne peuvent pas traiter plus de X fichiers d'un coup et que tu veux en traiter Y (Y > X) style grep toto */* et que tu obtiens un message "grep arg list too long".
    Dans ce cas, il faut envoyer la liste à xargs qui se chargera de la découper en blocs et faire traiter ces blocs par ton grep (ou autre)
    Mon Tutoriel sur la programmation «Python»
    Mon Tutoriel sur la programmation «Shell»
    Sinon il y en a pleins d'autres. N'oubliez pas non plus les différentes faq disponibles sur ce site
    Et on poste ses codes entre balises [code] et [/code]

  11. #11
    Invité
    Invité(e)
    Par défaut
    Merci pour ces info.

  12. #12
    Modérateur
    Avatar de jlliagre
    Homme Profil pro
    Ingénieur support avancé & développement
    Inscrit en
    Juin 2007
    Messages
    2 695
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Essonne (Île de France)

    Informations professionnelles :
    Activité : Ingénieur support avancé & développement
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2007
    Messages : 2 695
    Par défaut
    Citation Envoyé par Sve@r Voir le message
    A noter que la commande externe est exécutée à chaque fichier et non en une fois globale (on le voit si on fait un truc de ce genre: find . -name "*.py" -exec vi {} \; => le "vi" est lancé à chaque fichier
    C'est vrai avec cette syntaxe mais si l'on remplace le délimiteur de fin de commande "\;" par un "+", la commande sera exécutée avec autant de paramètres que l'OS en supporte:
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -name "*.py" -exec vi {} +
    Dans ce cas, il faut envoyer la liste à xargs qui se chargera de la découper en blocs et faire traiter ces blocs par ton grep (ou autre)
    Cela présente des risques avec des noms de fichiers non standard. Si l'on souhaite une syntaxe portable, il est recommandé d'utiliser "find -exec ...+" qui fait tout aussi bien ce découpage en blocs et ainsi éviter xargs.

    Avec Gnu find et Gnu xargs, il faut utiliser les options "find ... -print0" et "xargs -0" pour éviter ces écueils.

  13. #13
    Membre prolifique
    Avatar de Sve@r
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Février 2006
    Messages
    12 840
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Oise (Picardie)

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : Février 2006
    Messages : 12 840
    Billets dans le blog
    1
    Par défaut
    Citation Envoyé par jlliagre Voir le message
    C'est vrai avec cette syntaxe mais si l'on remplace le délimiteur de fin de commande "\;" par un "+", la commande sera exécutée avec autant de paramètres que l'OS n'en supporte:
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    find . -name "*.py" -exec vi {} +
    Ah ça je ne connaissais pas
    Mon Tutoriel sur la programmation «Python»
    Mon Tutoriel sur la programmation «Shell»
    Sinon il y en a pleins d'autres. N'oubliez pas non plus les différentes faq disponibles sur ce site
    Et on poste ses codes entre balises [code] et [/code]

Discussions similaires

  1. Compressions sans perte à la volée d'images
    Par stalacta dans le forum Calcul scientifique
    Réponses: 9
    Dernier message: 11/03/2014, 23h48
  2. [Tomcat 6] Compression GZIP des pages à la volée
    Par kilicool dans le forum Tomcat et TomEE
    Réponses: 4
    Dernier message: 28/03/2011, 23h50
  3. Upload et compression/resize d'image à la volée
    Par ThePhenom dans le forum Général JavaScript
    Réponses: 5
    Dernier message: 21/12/2010, 13h29
  4. Compression d'exécutables
    Par Atrebate62 dans le forum Windows
    Réponses: 3
    Dernier message: 21/07/2002, 16h39
  5. compression de données du point de vue algorithmique
    Par GoldenEye dans le forum Algorithmes et structures de données
    Réponses: 9
    Dernier message: 26/06/2002, 15h51

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo