IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Langage SQL Discussion :

Requête SQL de dédoublonage


Sujet :

Langage SQL

  1. #1
    Futur Membre du Club
    Inscrit en
    Mars 2009
    Messages
    20
    Détails du profil
    Informations forums :
    Inscription : Mars 2009
    Messages : 20
    Points : 9
    Points
    9
    Par défaut Requête SQL de dédoublonage
    Salut à tous,

    J'aurais besoin de votre assistance, s'il vous plaît. Je suis en train de travailler sur une requête de sélection à partir d'une table de pointage des collaborateurs (je travail dans un environnement MS ACCESS 2016), mais le problème est que cette table contient des doublons avec de légères variations dans les horaires.

    Un exemple pourrait rendre les choses plus claires.

    Table sources contient les données suivants :

    EMPLOYEE_ID LoginTime LogoutTime
    8858043 2024-01-06 07:58:48.000 2024-01-06 14:03:05.000
    8858043 2024-01-06 07:59:47.000 2024-01-06 14:05:05.000
    8858043 2024-01-06 15:00:06.000 2024-01-06 18:05:40.000
    8858043 2024-01-06 15:00:29.000 2024-01-06 18:01:40.000

    Résultats souhaités :

    EMPLOYEE_ID LoginTime LogoutTime
    8858043 2024-01-06 07:58:48.000 2024-01-06 14:05:05.000
    8858043 2024-01-06 15:00:06.000 2024-01-06 18:05:40.000


    à l'aide de ChatGPT j'ai obtenu cette requête qui fonctionne presque sauf que ça me donne pour chaque groupe de login/logout la 2ème connexions ey n'ont pas la première.

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
     
     
    SELECT 
        CD1.EMPLOYEE_ID, 
        MIN(CD1.LoginTime) AS FirstLogin, 
        MAX(CD2.LogoutTime) AS LastLogout
    FROM 
        Telephonie AS CD1 
    LEFT JOIN 
        Telephonie AS CD2 
    ON 
        (CD1.LoginTime < CD2.LogoutTime) AND (CD1.EMPLOYEE_ID = CD2.EMPLOYEE_ID)
    WHERE 
        NOT EXISTS (
            SELECT 1
            FROM Telephonie AS CD3
            WHERE CD3.EMPLOYEE_ID = CD1.EMPLOYEE_ID
              AND CD3.LoginTime > CD1.LoginTime
              AND CD3.LoginTime < CD2.LogoutTime
        )
    GROUP BY 
        CD1.EMPLOYEE_ID,CD1.LoginTime

    Pouvez-vous m'aider pls ?

    merci d'avance.

  2. #2
    Modérateur
    Avatar de escartefigue
    Homme Profil pro
    bourreau
    Inscrit en
    Mars 2010
    Messages
    10 136
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Loir et Cher (Centre)

    Informations professionnelles :
    Activité : bourreau
    Secteur : Finance

    Informations forums :
    Inscription : Mars 2010
    Messages : 10 136
    Points : 38 910
    Points
    38 910
    Billets dans le blog
    9
    Par défaut
    La difficulté ici est de définir pourquoi vous sélectionnez la borne de début de la première ligne avec la borne de fin de la deuxième, plutôt que la borne de fin de la troisième ou de la quatrième...
    On comprend intuitivement que quand l'écart est de l'ordre de quelques secondes, on prend la ligne la plus forte, mais en SQL, il faut le traduire par une règle. Quelle est-elle ?

  3. #3
    Futur Membre du Club
    Inscrit en
    Mars 2009
    Messages
    20
    Détails du profil
    Informations forums :
    Inscription : Mars 2009
    Messages : 20
    Points : 9
    Points
    9
    Par défaut
    Citation Envoyé par escartefigue Voir le message
    La difficulté ici est de définir pourquoi vous sélectionnez la borne de début de la première ligne avec la borne de fin de la deuxième, plutôt que la borne de fin de la troisième ou de la quatrième...
    On comprend intuitivement que quand l'écart est de l'ordre de quelques secondes, on prend la ligne la plus forte, mais en SQL, il faut le traduire par une règle. Quelle est-elle ?
    L'objectif est de créer une timeline de connexion/déconnexion, d'une façon plus concrète conserver que la première login et la dernière logout de chaque intervalle de connexion/déconnexion

    un autre exemple pour simplifier le besoin :

    1er tableau = data source
    2ème tableau = le résultat souhaité

    Nom : Sans titre.png
Affichages : 124
Taille : 6,0 Ko

    j'espère que c'est clair maintenant

  4. #4
    Modérateur
    Avatar de escartefigue
    Homme Profil pro
    bourreau
    Inscrit en
    Mars 2010
    Messages
    10 136
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Loir et Cher (Centre)

    Informations professionnelles :
    Activité : bourreau
    Secteur : Finance

    Informations forums :
    Inscription : Mars 2010
    Messages : 10 136
    Points : 38 910
    Points
    38 910
    Billets dans le blog
    9
    Par défaut
    C'est clair depuis le départ, mais il faut une règle traduisible en SQL
    Là, dans l'exemple, les lignes en jaune sont en doublon ok, mais la couleur jaune ce n'est pas une règle traduisible en SQL
    Par exemple, la règle peut être : il considérer qu'il y a doublon quand l'écart est de moins d'une heure, moins de 10 minutes...

  5. #5
    Futur Membre du Club
    Inscrit en
    Mars 2009
    Messages
    20
    Détails du profil
    Informations forums :
    Inscription : Mars 2009
    Messages : 20
    Points : 9
    Points
    9
    Par défaut
    Je m'excuse, mais je n'ai pas saisi pleinement ta question. Pour moi, la règle consiste à conserver le (min LoginTime) et le (max LogoutTime) de chaque intervalle chevauché.

    Le script que j'ai initialement intégré fonctionne partiellement. Il conserve les intervalles souhaités, mais inclut la dernière connexion plutôt que la première.

    Désolé, je suis encore novice dans le langage SQL.

  6. #6
    Modérateur
    Avatar de Waldar
    Homme Profil pro
    Customer Success Manager @Vertica
    Inscrit en
    Septembre 2008
    Messages
    8 452
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 46
    Localisation : France, Val de Marne (Île de France)

    Informations professionnelles :
    Activité : Customer Success Manager @Vertica
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2008
    Messages : 8 452
    Points : 17 820
    Points
    17 820
    Par défaut
    Si votre database n'a pas de fonctions natives pour gérer ceci, la requête SQL peut être complexe et pas très performantes à l'exécution.
    Essayez ainsi :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    with cte_data (Employee_Id, LoginTime, LogoutTime) as
    (
    select 8858043, timestamp '2024-01-06 07:58:48', timestamp '2024-01-06 14:03:05' union all
    select 8858043, timestamp '2024-01-06 07:59:47', timestamp '2024-01-06 14:05:05' union all
    select 8858043, timestamp '2024-01-06 15:00:06', timestamp '2024-01-06 18:05:40' union all
    select 8858043, timestamp '2024-01-06 15:00:29', timestamp '2024-01-06 18:01:40'
    )
      ,  cte_LogoutMax (Employee_Id, LoginTime, LogoutTime, LogoutTime_max) as
    (
    select Employee_Id, LoginTime, LogoutTime
         , max(LogoutTime) over(partition by Employee_Id order by LoginTime, LogoutTime rows unbounded preceding) as LogoutTime_max
      from cte_data
    )
      ,  cte_GrpStart (Employee_Id, LoginTime, LogoutTime, GrpStart) as
    (
    select Employee_Id, LoginTime, LogoutTime
         , case when LoginTime <= lag(LogoutTime_max) over(partition by Employee_Id order by LoginTime, LogoutTime) then 0 else 1 end
      from cte_LogoutMax
    )
      ,  cte_GrpId (Employee_Id, LoginTime, LogoutTime, GrpId) as
    (
    select Employee_Id, LoginTime, LogoutTime
         , sum(GrpStart) over(partition by Employee_Id order by LoginTime rows unbounded preceding)
      from cte_GrpStart
    )
      select Employee_Id
           , min(LoginTime)  as LoginTime
           , max(LogoutTime) as LogoutTime
        from cte_GrpId
    group by Employee_Id, GrpId
    order by Employee_Id, GrpId;
     
    Employee_Id  LoginTime            LogoutTime         
    -----------  -------------------  -------------------
        8858043  2024-01-06 07:58:48  2024-01-06 14:05:05
        8858043  2024-01-06 15:00:06  2024-01-06 18:05:40
    Edit: j'ai corrigé une typo dans le code.

  7. #7
    Modérateur
    Avatar de escartefigue
    Homme Profil pro
    bourreau
    Inscrit en
    Mars 2010
    Messages
    10 136
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Loir et Cher (Centre)

    Informations professionnelles :
    Activité : bourreau
    Secteur : Finance

    Informations forums :
    Inscription : Mars 2010
    Messages : 10 136
    Points : 38 910
    Points
    38 910
    Billets dans le blog
    9
    Par défaut
    C'est ce que j'ai mis en rouge ci-dessous qui manquait comme information

    Citation Envoyé par Sniper69 Voir le message
    Je m'excuse, mais je n'ai pas saisi pleinement ta question. Pour moi, la règle consiste à conserver le (min LoginTime) et le (max LogoutTime) de chaque intervalle chevauché.
    La méthode classique pour satisfaire ce genre de besoins est d'utiliser la méthode dite "Tabibitosan", c'est l'objet de la réponse de Waldar qui précède, il faut pour cela que votre SGBD accepte les fonctions fenêtrés (c'est à dire que ce ne soit pas Access, ou MySQL dans une version antérieure à la V8).

  8. #8
    Membre chevronné
    Homme Profil pro
    Développeur Oracle
    Inscrit en
    Décembre 2019
    Messages
    1 138
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Développeur Oracle

    Informations forums :
    Inscription : Décembre 2019
    Messages : 1 138
    Points : 1 918
    Points
    1 918
    Par défaut
    Bonjour,

    Dans Oracle avec le Pattern Matching:

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    select * from Telephonie 
    match_recognize(partition by employee_id
                    order by logintime
                    measures min(logintime) as logintime,
                             greatest(max(a.logouttime), next(a.logouttime)) as logouttime
                    pattern (a+)
                    define A as a.logouttime > next(a.logintime)
                   );

  9. #9
    Modérateur
    Avatar de Waldar
    Homme Profil pro
    Customer Success Manager @Vertica
    Inscrit en
    Septembre 2008
    Messages
    8 452
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 46
    Localisation : France, Val de Marne (Île de France)

    Informations professionnelles :
    Activité : Customer Success Manager @Vertica
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2008
    Messages : 8 452
    Points : 17 820
    Points
    17 820
    Par défaut
    Je tente cette version du pattern matching en pure fonctions de fenêtrage :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    with cte_prep as
    (
    select Employee_Id, LoginTime, LogoutTime
         , lead(LoginTime) over W as LoginTime_next
         , greatest(max(LogoutTime) over W, lead(LogoutTime) over W) as LogoutTime_max
      from Telephonie
    window W as (partition by Employee_Id order by LoginTime)
    )
      select distinct Employee_Id, LoginTime, LogoutTime_max
        from cte_prep
       where LogoutTime > LoginTime_next
    order by Employee_Id, LoginTime;
    EDIT : Attention, sur d'autres données cette requête ne donne PAS les bons résultats.
    Je la laisse pour l'intégrité de la discussion, mais ne surtout pas utiliser telle quelle.

  10. #10
    Rédacteur

    Avatar de SQLpro
    Homme Profil pro
    Expert bases de données / SQL / MS SQL Server / Postgresql
    Inscrit en
    Mai 2002
    Messages
    21 772
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Var (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Expert bases de données / SQL / MS SQL Server / Postgresql
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2002
    Messages : 21 772
    Points : 52 737
    Points
    52 737
    Billets dans le blog
    5
    Par défaut
    L'article que j'ai écrit à ce sujet "agrégation des intervalles en SQL" :
    https://blog.developpez.com/sqlpro/p...alles_en_sql_1

    A +
    Frédéric Brouard - SQLpro - ARCHITECTE DE DONNÉES - expert SGBDR et langage SQL
    Le site sur les SGBD relationnels et le langage SQL: http://sqlpro.developpez.com/
    Blog SQL, SQL Server, SGBDR : http://blog.developpez.com/sqlpro
    Expert Microsoft SQL Server - M.V.P. (Most valuable Professional) MS Corp.
    Entreprise SQL SPOT : modélisation, conseils, audit, optimisation, formation...
    * * * * * Expertise SQL Server : http://mssqlserver.fr/ * * * * *

  11. #11
    Modérateur
    Avatar de Waldar
    Homme Profil pro
    Customer Success Manager @Vertica
    Inscrit en
    Septembre 2008
    Messages
    8 452
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 46
    Localisation : France, Val de Marne (Île de France)

    Informations professionnelles :
    Activité : Customer Success Manager @Vertica
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2008
    Messages : 8 452
    Points : 17 820
    Points
    17 820
    Par défaut
    J'avais oublié cet article mais il est un peu daté, beaucoup de jointures, ce qui est ok quand il y a peu de lignes mais qui progresse moins bien avec de la croissance.

    Sur mon petit cluster Vertica - 3 nœuds virtuels, 2 vCPU, 16 Go de ram, rien de folichon.

    La première solution que j'ai proposée pour 1M de lignes tourne en 200 ms, versus 167 secondes pour la solution 2.
    Avec 10M de lignes ça passe à 1600 ms ce qui me paraît bien.

    La deuxième solution que j'ai proposée ne donne pas les bons résultats, j'ai édité le post pour l'indiquer.
    J'ai également des résultats incohérents avec la solution 4.

Discussions similaires

  1. Datagridview & requte sql
    Par oami89 dans le forum VB.NET
    Réponses: 8
    Dernier message: 14/04/2011, 08h40
  2. Réponses: 5
    Dernier message: 06/10/2009, 09h37
  3. Réponses: 4
    Dernier message: 11/06/2009, 16h03
  4. comment parametrer une requte sql ds ireport
    Par hamzuss dans le forum Jasper
    Réponses: 3
    Dernier message: 17/03/2009, 20h01
  5. Requte Sql Avancée, question ... ? Estce possible ?
    Par plex dans le forum Administration
    Réponses: 8
    Dernier message: 14/12/2005, 15h13

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo