machine surchargée, quelles pistes

[sam01]

Bonour à tous,

j'aimerais avoir de votre part un retour d'expérience sur les modes d'actions entrepris lorsqu'une machine MVS est surchargée par le nombre de jobs qui tournent.
Que faîtes-vous quand la machine est à 100% de CPU occupée par un grand nombre de jobs quotidien qui tourne.

Je pense qu'il n'existe pas une mesures idéale (ça se saurait ), mais quels sont vos petits trucs, vos astuces ou encore les solutions que vous avez apportées pour régler vos problème de charge machine.

Merci d'avance.

[bernard59139]

Bonjour

La base

quels sont les jobs les plus consommateurs? CUP/ELAPS/mémoire/..

comprendre ce qu'ils font et essayer de les améliorer . Les grosses ficelles:

• lecture de la doc MVS, db2 et autre. Parfois un petit truc améliore fortement les perf
• reorg des data
• déplacements de fichiers disques pour éviter des conflits
• si db2, rebind, runstats
• vidage des historiques (hé oui, "on" oublie parfois)
• réécriture du programme avec un nouvel algo

A+

[Lemmings1406]

Bonjour,

En plus de la réponse apporté par Bernard, il faut également étudier la piste des VSAM. De nombreuses possibilités sont offertes pour améliorer les performances de ce côté là.

Sur mon site, j'ai mis en place le soft capping dynamique pour réguler la charge machine entre les différentes partitions ce qui permet deux choses, la première de palier à un problème de charge machine et la seconde à lisser le R4H ce qui permet de diminuer la facturation IBM.

[Lemmings1406]

Bonjour,

En plus de la réponse apporté par Bernard, il faut également étudier la piste des VSAM. De nombreuses possibilités sont offertes pour améliorer les performances de ce côté là.

Sur mon site, j'ai mis en place le soft capping dynamique pour réguler la charge machine entre les différentes partitions ce qui permet deux choses, la première de palier à un problème de charge machine et la seconde à lisser le R4H ce qui permet de diminuer la facturation IBM.

[sam01]

Envoyé par Lemmings1406

Bonjour,

En plus de la réponse apporté par Bernard, il faut également étudier la piste des VSAM. De nombreuses possibilités sont offertes pour améliorer les performances de ce côté là.

Sur mon site, j'ai mis en place le soft capping dynamique pour réguler la charge machine entre les différentes partitions ce qui permet deux choses, la première de palier à un problème de charge machine et la seconde à lisser le R4H ce qui permet de diminuer la facturation IBM.

Bonjour Lemmings1406,

ta piste m'intéresse, peux-tu m'en dire plus. Je ne suis pas ingénieur système.

Est-ce à la portée uniquement des ingénieurs systèmes.

Je peux éventuellement en parler avec eux.

Merci pour tes précisions.

PS : Que signifie R4H ?

[sam01]

Envoyé par bernard59139

Bonjour

La base

quels sont les jobs les plus consommateurs? CUP/ELAPS/mémoire/..

comprendre ce qu'ils font et essayer de les améliorer . Les grosses ficelles:

• lecture de la doc MVS, db2 et autre. Parfois un petit truc améliore fortement les perf
• reorg des data
• déplacements de fichiers disques pour éviter des conflits
• si db2, rebind, runstats
• vidage des historiques (hé oui, "on" oublie parfois)
• réécriture du programme avec un nouvel algo

A+

Merci bernard59139 pour ton aide.

Pour comprendre un peu ce qui se passe, on doit demander des statistiques.
On doit donc faire une expression de besoin, quelles sont les informations à savoir afin de pouvoir bien comprendre ce qui se passe :

Je compte demander :

1) Les 20 jobs les plus consommateurs en Elaps
2) Les 20 jobs les plus consommateur en CPU
3) Les 20 jobs les plus consommateur en IO
2) La courbe de consommation CPU d'une journée

Pensez-vous que cela est suffisant sachant que l'on ne veut pas se perdre dans des tonnes de statistiques.

S'il manque des choses importantes, n'hésites pas à m'en faire part.

[Luc Orient]

Tu ne parles que de jobs batch dans tes messages.

Tu n'as pas de transactionnel sur ton site (CICS ou IMS/TM) ?

[Lemmings1406]

Re,

Pour le capping, dans la mesure où il faut toucher aux hmc, je dirais que ça s'adresse exclusivement aux ingénieurs systèmes.

Le R4H est le Rolling 4 Hours MSU. En gros, IBM facture les 4 heures glissantes les plus consommatrices du mois. Le capping permet de lisser ces 4 heures machines et ainsi de réduire (fortement) la facturation.

Il existe à ma connaissance 2 moyens de mettre en oeuvre ce système. Le premier est une option de la machine accessible et paramétrable via les HMC (soit humainement, soit en batch). Le second moyen est un logiciel payant mais très rapidement amortissable qui se nomme ZCOST et commercialisé par la société Zcost Management (référencée par IBM). Tu peux te renseigner auprès du responsable Jacky Hofbauer (jhof@zcostmanagement.com). C'est une société française basée à Nantes.
En gros, cela permet "de prendre des MSUs" aux partitions ayant une charge réduite et de les donner à des partitions en ayant le besoin. Bien entendu, des tas de paramètres sont possibles pour mettre en oeuvre cette solution.

Si tu as d'autres questions, je reste à ta disposition.


PS: Ne pas négliger non plus la piste des tris qui peuvent être également très consommateurs.

[sam01]

Envoyé par Luc Orient

Tu ne parles que de jobs batch dans tes messages.

Tu n'as pas de transactionnel sur ton site (CICS ou IMS/TM) ?

Au niveau transactionnel, ce n'est pas mon équipe qui gère cela?
Il y a des tas d'infos statistiques sur le transactionnelle et des équipes sont chargées de régler d'éventuelles surconsommation CPU liées au transactionnel.

En ce qui me concerne, c'est la partie batch qui m'intéresse, j'ai oublié de le préciser, désolé...

Voilà ce que je demande :

• Temps CPU des 20 jobs les plus consommateurs
• Temps Elaps des 20 jobs les plus consommateur
• Les 20 jobs les plus consommateurs en IO
• Evolution de la consommation CPU


S'il manque des choses importantes, n'hésitez pas.

[sam01]

Envoyé par Lemmings1406

Re,

Pour le capping, dans la mesure où il faut toucher aux hmc, je dirais que ça s'adresse exclusivement aux ingénieurs systèmes.

Le R4H est le Rolling 4 Hours MSU. En gros, IBM facture les 4 heures glissantes les plus consommatrices du mois. Le capping permet de lisser ces 4 heures machines et ainsi de réduire (fortement) la facturation.

Il existe à ma connaissance 2 moyens de mettre en oeuvre ce système. Le premier est une option de la machine accessible et paramétrable via les HMC (soit humainement, soit en batch). Le second moyen est un logiciel payant mais très rapidement amortissable qui se nomme ZCOST et commercialisé par la société Zcost Management (référencée par IBM). Tu peux te renseigner auprès du responsable Jacky Hofbauer (jhof@zcostmanagement.com). C'est une société française basée à Nantes.
En gros, cela permet "de prendre des MSUs" aux partitions ayant une charge réduite et de les donner à des partitions en ayant le besoin. Bien entendu, des tas de paramètres sont possibles pour mettre en oeuvre cette solution.

Si tu as d'autres questions, je reste à ta disposition.


PS: Ne pas négliger non plus la piste des tris qui peuvent être également très consommateurs.

L'option de ZCOST m'intéresse, mais il faut que je parvienne à convaincre le directeur de production d'acheter un tel logiciel ? Et ça c'est pas gagné...

[Lemmings1406]

Tu peux l'essayer gratuitement pendant un ou deux mois. Si vous êtes convaincus, vous l'achetez sinon vous laissez tombé. Envoi moi un MP si tu décides te contacter l'éditeur mais c'est une solution très intéressante (on parle de plusieurs centaines de milliers d'euros voir des Millions annuel économisés. Pour ma part, nous avons baissé notre facturation de plus de 30%)

Sinon, la solution non payante est intéressante également mais plus compliquée à gérer et moins efficace.

[xfanx]

Bonjour,

je rejoins totalement Lemmings1406 sur le produit Zcost, installé sur nos machines depuis quelques années maintenant il a apporté un "confort" et une souplesse sans équivalent au niveau des conso et de la répartition des msu inter lpar.

mais comme bernard59139 le dit, la première chose à faire est quand même bien de regarder ou la consommation se fait, pourquoi et rechercher des solutions d'optimisation.

[sam01]

D'un côté je ne vois pas comment on va faire des économies car nous avons la politique suivante :

Chaque mois, on détermine, un % maximum de conso CPU (60 % par exemple).

Et donc si on utilise plus (sur 4 heure) la machine sera capée, et si on utilise moins, on paye quand même 60 %.

Dans tous les cas, on décide en début de mois combien on va payer.

Et on ne paiera pas plu et pas moins.

Alors je ne vois pas dans quel mesure zcost va permettre de payer moins???

As-tu participer à l'installation du produit ?

[Luc Orient]

Envoyé par sam01

Au niveau transactionnel, ce n'est pas mon équipe qui gère cela.
Il y a des tas d'infos statistiques sur le transactionnelle et des équipes sont chargées de régler d'éventuelles surconsommation CPU liées au transactionnel.

En ce qui me concerne, c'est la partie batch qui m'intéresse, j'ai oublié de le préciser, désolé...

Oui mais l'activité transactionnelle, en cas de très forte activité, rentre en concurrence avec l'activité batch pour l'attribution du processeur ...

[Lemmings1406]

Re,

Est-ce que tu sais de quelle façon vous agissez sur votre machine et/ou partition pour déterminer une utilisation maxi à 60%???

Dans tous les cas, essaye de convaincre les gens de chez toi d'essayer Zcost, en plus, vous ne risquerez rien dans un premier temps puisque celui-ci possède un mode simulation, ce qui vous permettra de voir si vous pouvez réaliser des économies ou pas mais je ne me fais pas de soucis, c'est presque logique quand on connait le fonctionnement du produit.

Mais il est vrai qu'il faut bien regarder en parallèle si il n'existe pas d'autres problèmes.

[sam01]

Voici mon expression de besoin :

• Temps CPU des 20 jobs les plus consommateurs sur la machine triés en ordre descendant
• Temps Elaps des 20 jobs les plus consommateurs sur la machine triés en ordre descendant
• Les 20 jobs les plus consommateurs en IO triés en ordre descendant
• Evolution de la consommation CPU bacth sur la machine de 00h01 à 23h59 sous forme de courbe
• Evolution de la consommation IO sur la machine de 00h01 à 23h59 sous forme de courbe

Pouvez-vous me dire si je suis passé à côté de certaines choses importante afin de faire une expression de besoin exhaustive ?

Dois-je par exemple demander les jobs qui font le plus d'accès DB2 (est-ce vraiment utile ?)

merci pour votre aide.

[Lemmings1406]

En tenant compte des éléments que tu as donné ici et dans les messages que tu m'as envoyé, je pense qu'il est inutile dans un premier temps de demander ces éléments. Pour moi, le soucis est situé au niveau du capping.

Si le capping était actif pendant cette fameuse "surcharge", c'est un phénomène "normal" qui ralenti le système puisqu'il abaisse la puissance machine générale, donc cela engendre une surcharge pendant un temps indéterminé en allongeant la durée des batchs et du transactionnel jusqu'à ce que le seuil de capping redescende à la normal.

Demande dans un premier temps la courbe d'utilisation de la CPU sur 24H 1/4h par 1/4h.

[bernard59139]

Bonjour
C'est un bon début de demander des chiffres, ca permet de partir sur des bases concrètes.

Demander des courbes est un peu moins utile, même si elles te permettront de savoir quelles sont les plages horaires encombrées, et de là, rechercher les jobs / programmes à analyser.

Pour db2, bien sur qu'il te faudra des chiffres. Chiffres que tu devras mettre en relation avec la durée ELAPS du programme.

A+

[gilgeorg]

Bonjour,

juste quelques remarques qui me sont venues en lisant les messages :

Tout d'abord, et c'est le plus important, une machine qui consomme 100% de CPU, n'est pas nécessairement surchargée. C'est surtout le signe qu'elle fonctionne bien et qu'elle ne subit pas d'autres goulots d'étranglement (mémoire, pagination, I/O ...). Cela peut être également le signe de taches de fond qui tournent (uniquement) lorsqu'il y a de la CPU disponible (Discretionary sous WLM)

Les signes d'une machine surchargées sont plutôt : temps de réponse dégradé (pour le TP), fenêtre batch insuffisante pour faire tourner tous les jobs. Temps elapse des jobs ayant une forte variation en fonction des périodes de lancement...

Si aucun des symptômes précédent ne se manifeste : félicitations, votre machine est correctement taillée et fonctionne bien

Sinon, ce sont plutôt les signes que je citais qu'ils faut essayer de repérer et d'identifier avant de se focaliser uniquement sur la consommation CPU. Ensuite, la deuxième piste, c'est de regarder quels sont les objectifs donnés à WLM et observer si ces objectifs sont globalement satisfait ou non (Service Class). Lorsqu'il y a trop de contention sur les ressources, le rôle de WLM est de 'sacrifier' les classes qui sont les moins prioritaires (Importance). Avec RMF III, il est possible de voir si WLM arrive à remplir les objectifs des Service Class.

Bon courage

Gilles