Discussion :

[Bill Fassinou]

Apple Card : les hommes recevraient des limites de crédit beaucoup plus élevées que les femmes,
les algorithmes utilisés par Goldman Sachs fixeraient des limites de crédit différentes selon le sexe

Ce week-end, un organisme de réglementation new-yorkais a décidé d’ouvrir une enquête sur les pratiques en matière de cartes de crédit de Goldman Sachs Group Inc. L’enquête du New York's Department of Financial Services (DFS) est survenue après une série d’allégations selon lesquelles la carte de crédit d’Apple proposait différentes limites de crédit aux hommes et aux femmes. Ces allégations estiment que les algorithmes utilisés par Goldman Sachs pour fixer les limites des cartes de crédit pourraient être intrinsèquement biaisés à l’encontre des femmes.

À New York, un régulateur financier a ouvert une enquête sur la banque Goldman Sachs Group Inc. à la suite d’allégations selon lesquelles la carte de crédit d'Apple offrait des limites de crédit différentes selon le sexe. Le département des services financiers de New York (New York's Department of Financial Services - DFS) a expliqué samedi que toute discrimination, intentionnelle ou non, viole la loi de New York. Le DFS va analyser au cours de l’enquête les pratiques en matière de cartes de crédit de Goldman Sachs, qui gère les cartes de crédit Apple.

En effet, l’Apple Card est une nouvelle carte de crédit développée par Apple, conçue principalement pour être utilisée avec Apple Pay sur des appareils Apple tels qu'un iPhone ou une Apple Watch. Elle est disponible aux États-Unis depuis août 2019. Apple Card ne possède pas de frais de pénalités de retard, d'avance de fonds, d'utilisation internationale, de découvert ou de frais de carte de crédit annuels, à l'exception des frais d’intérêts applicables lors du transfert du solde et des commissions d'interchange normalement facturés au fournisseur.

Selon l’agence de presse américaine Bloomberg, tout est parti d’un tweet viral de David Heinemeier Hansson, créateur du wiki Instiki et du framework Web Ruby on Rails, mentionnant une discrimination fondée sur le sexe dans les algorithmes de la nouvelle Apple Card pour déterminer les limites de crédit. L'entrepreneur technologique s’est plaint du fait que la carte de crédit Apple lui ait accordé 20 fois plus la limite de crédit de sa femme. Dans son tweet, il a indiqué que la disparité était en dépit du fait que sa femme avait une meilleure cote de crédit.

Hansson n'a pas divulgué de renseignements précis sur le revenu de sa femme et lui, mais il a déclaré qu'ils avaient produit des déclarations de revenus conjointes et que sa femme avait une meilleure cote de crédit que lui. Selon le média Bloomberg, les tweets, dont beaucoup contiennent des blasphèmes, ont immédiatement gagné du terrain en ligne, attirant même les commentaires du cofondateur d'Apple Steve Wozniak. Ce dernier a déclaré que la même chose s’est produite avec sa femme et lui alors qu’ils n’avaient ni compte bancaire séparé ni actifs distincts.

Dans la foulée, le département des services financiers (DFS) de New York a contacté Goldman Sachs, qui gère l'Apple Card et a déclaré samedi qu’il enquêtera pour déterminer si oui ou non les algorithmes de l’Apple Card comportaient des biais discriminants. « Le ministère mènera une enquête pour déterminer si la loi new-yorkaise a été violée et s'assurer que tous les consommateurs sont traités sur un pied d'égalité, quel que soit leur sexe », a déclaré un porte-parole de Linda Lacewell, la surintendante du ministère des Services financiers de New York.

« Tout algorithme qui, intentionnellement ou non, aboutit à un traitement discriminatoire des femmes ou de toute autre catégorie protégée de personnes viole la loi de New York », a-t-il précisé. De son côté, un porte-parole de Goldman a déclaré qu’Apple Card n'offre que des comptes individuels et il est possible pour deux membres de la famille de recevoir des décisions de crédit sensiblement différentes. « Dans tous les cas, nous n'avons pas pris et ne prendrons pas de décisions fondées sur des facteurs comme le sexe », a-t-il expliqué aux médias.

Toutefois, Hansson a déclaré que la réponse de Goldman n'explique pas ce qui s'est passé. « Dès que cela est devenu une question de relations publiques, ils ont immédiatement augmenté sa limite de crédit sans lui demander de documents supplémentaires. Je ne crois pas qu'il y avait une personne malfaisante qui voulait faire de la discrimination. Mais ça n'a pas d'importance. Comment savez-vous qu'il n'y a pas un problème avec l'algo d'apprentissage automatique si personne ne peut expliquer comment cette décision a été prise ? », a-t-il déclaré lors d'une entrevue.

Hansson a déclaré que ses messages avaient conduit à un examen interne et qu'il espérait que cela déclencherait une conversation sur les algorithmes de type boîte noire ou black-box et les biais inhérents à ces systèmes. « Goldman et Apple délèguent l'évaluation du crédit à une boîte noire. Ce n'est pas une intention de discrimination sexuelle, mais c'est un résultat de discrimination sexuelle », a déclaré Hansson. Les banques et les autres prêteurs utilisent de plus en plus la technologie d'apprentissage automatique pour réduire les coûts et augmenter les demandes de prêt.

Cependant, selon Bloomberg, c’est la deuxième action de ce type de la part du DFS ces dernières semaines. Le DFS a déjà ouvert une enquête contre le géant de la santé UnitedHealth Group Inc. après qu'une étude ait révélé le fait qu'un algorithme favorisait les patients blancs plutôt que les patients noirs. Bloomberg a déclaré que les ambitions croissantes de Goldman entraînent une surveillance accrue et une nouvelle série de défis auxquels il n'a jamais été confronté auparavant. L'Apple Card est une coentreprise entre Apple Inc. et la banque basée à New York, qui est responsable de toutes les décisions de crédit de la carte.

Source : Bloomberg

Et vous ?

Qu'en pensez-vous ?

Voir aussi

Apple annonce son système de paiement mobile Apple Pay qui sera compatible avec l'iPhone 6 et sa Apple Watch

Des employeurs font appel à des systèmes de recrutement s'appuyant sur l'intelligence artificielle qui analysent des éléments comme les mouvements faciaux pour déterminer qui mérite un emploi

Un ancien programmeur de Gogldman Sachs de nouveau condamné par la justice américaine pour un vol présumé de code source sensible de la banque

Gitlab double sa valorisation à 2,75 milliards de dollars avant son introduction en bourse prévue en 2020, grâce à un nouveau financement de 268 millions de dollars

[Neckara]

Il ne faudrait quand même pas trop vite oublier que si la carte de crédit est personnelle et n'est pas sur un compte joint, le contractant est a priori le seul responsable de la dette contractée. Quelque soit donc la situation financière du couple, en cas de divorce, la dette risque bien de ne pas être "partagée", et donc d'être à charge du contractant initial. Ce qui peut ainsi expliquer des disparités au sein d'un couple.

Il ne faut pas aussi oublier que c'est un algorithme d'apprentissage, qui n'a appris pas uniquement sur des couples, mais aussi sur des individus. Ainsi les sources de revenus et capacités individuels sont sûrement considérés.


Puis bon, on ne le répétera jamais assez, les cartes de crédits sont des arnaques, faut utiliser des cartes de débits (à moins d'être richissime).

[Fleur en plastique]

Apple a toujours été une société honnête, et la raison derrière tout cela est toute simple, c'est juste que ce n'est pas politiquement correct de le dire, alors je vais vous le dire, moi.

Les femmes ont droit à moins de crédit parce que les femmes sont plus dépensières et les plus susceptibles d'entraîner le ménage dans la dette et ne pas pouvoir la rembourser. Voilà tout.

On donne donc davantage de crédit aux êtres responsables, en l’occurrence, les hommes, quand toutes les autres variables (revenus...) sont identiques.

[Invité]

Apple a toujours été une société honnête

Les femmes ont droit à moins de crédit parce que les femmes sont plus dépensières et les plus susceptibles d'entraîner le ménage dans la dette et ne pas pouvoir la rembourser. Voilà tout.
On donne donc davantage de crédit aux êtres responsables, en l’occurrence, les hommes, quand toutes les autres variables (revenus...) sont identiques.

Bravo pour ces belles réflexions dignes du XiXème siècle.

[bk417]

"sa femme avait une meilleure cote de crédit que lui" ...donc la femme a été favorisée dans ce cas si je comprends bien.

Et dans le premier cas la femme a été défavorisée.
Ce qui fait 1 partout sur un échantillon de... 2 couples !
De quoi faire les gros titres assurément.

[Neckara]

[...]les femmes sont plus dépensières[...]

Bravo pour ces belles réflexions dignes du XiXème siècle.

La réalité se contre-fou de tes considérations féministes.
Et pour rappel, Fleur en plastique est un compte troll.


Je ne saurais dire quant aux dépenses globales mais plusieurs choses sont connues :

• les femmes dépensent plus quant aux vêtements/chaussures/sac à mains ;
• les femmes dépensent plus quant aux produits de beauté, maquillage, shampoing ;
• les femmes s'intéressent plus à la santé, et aux pseudo-médecines (idem, plus de dépenses donc) ;
• dans la même lignée, les femmes achètent des aliments de meilleures qualités (donc généralement plus chers) ;
• idem pour les produits écologiques/humanitaires qu'ils soient ou non alimentaires.

Tu peux trouver des études allant dans ce sens, ou tu peux aller dans une grande surface et regarder quel est l'espace alloué à chaque public-cible. Pour rappel, c'est statistique, cela ne dit rien quant à un individu donné.


Les hommes en revanchent dépensent plus pour des achats "concrets", plus orienté investissement que consommable, plus utilitaire que cosmétique. Par exemple pour la voiture ou du matériel informatique.
Et si, le RGB, c'est totalement un investissement utilitaire.

[Mingolito]

On ne peut pas incriminer Apple, si une IA a calculé qu'on ne peux pas faire confiance aux femmes sur les questions d'argent c'est un fait scientifique.
Je pense que ce genre d'info montre que l'égalité homme femme à ses limites et que le féminisme est peut être allé trop loin.

[Neckara]

On ne peut pas incriminer Apple, si une IA a calculé qu'on ne peux pas faire confiance aux femmes sur les questions d'argent c'est un fait scientifique.

Attention cependant, l'IA montre une corrélation/probabilité et non une causalité (sous hypothèse que le jeu de donnée d'apprentissage soit représentatif). De plus cette "discrimination" n'est pas encore avérée.

Cette corrélation n'est pas nécessairement la plus pertinente à prendre en compte, ni même nécessairement "juste".


Par exemple, ce n'est pas parce que statistiquement les personnes ayant un pseudo commençant par un F trollent plus que la moyenne, qu'il faudrait que (ou que cela justifie que) la modération soit plus sévère envers ces personnes. En revanche, cela explique pourquoi on peut s'attendre à ce que statistiquement les personnes au pseudo commençant par un F soient plus sanctionnées que les autres.

[SushiGreGs]

Il ne faudrait quand même pas trop vite oublier que si la carte de crédit est personnelle et n'est pas sur un compte joint, le contractant est a priori le seul responsable de la dette contractée. Quelque soit donc la situation financière du couple, en cas de divorce, la dette risque bien de ne pas être "partagée", et donc d'être à charge du contractant initial. Ce qui peut ainsi expliquer des disparités au sein d'un couple.

Il ne faut pas aussi oublier que c'est un algorithme d'apprentissage, qui n'a appris pas uniquement sur des couples, mais aussi sur des individus. Ainsi les sources de revenus et capacités individuels sont sûrement considérés.


Puis bon, on ne le répétera jamais assez, les cartes de crédits sont des arnaques, faut utiliser des cartes de débits (à moins d'être richissime).

Hum, tu m'explique en quoi les cartes de crédits sont une arnaque ?
Elles donnent des avantages comme des remises en argent, des points, des assurances diverses et si tu règle ton solde avant la fin de l’échéance qui est de plus ou moins 21 jours, tu n'a aucun frais
C'est comme une carte de débit mais faut faire attention à ce que tu dépense et connaitre tes limites

[Ryu2000]

Hum, tu m'explique en quoi les cartes de crédits sont une arnaque ?

Avec une carte de crédit tu peux accumuler des dettes, avec une carte de débit si tu n'as pas l'argent tu ne peux pas payer, enfin si, il y a parfois moyen d'aller dans le négatif, mais ce n'est jamais une bonne idée, parce qu'après il y a des agios à payer.
On peut s'endetter pour acheter un logement, parce qu'au final le remboursement du prêt peut être vu comme un loyer, mais c'est extrêmement dangereux de s'endetter en consommant ou en se payant des vacances.
Il y en a qui font n'importe quoi avec leur argent, comme faire un prêt pour rembourser un prêt.

[Neckara]

Hum, tu m'explique en quoi les cartes de crédits sont une arnaque ?

Les crédits doivent être utilisés pour de l'investissement, jamais pour de la consommation, c'est la base.

Faire cela est dangereux et peut vite te conduire à un cercle vicieux avant même que tu ne t'en rendes compte.
Cela t’incite à acheter, non pas avec l'argent que tu as, mais avec l'argent que tu vas avoir. Au moindre imprévu, tu te fais baiser.

Elles donnent des avantages comme des remises en argent, des points, des assurances diverses et si tu règle ton solde avant la fin de l’échéance qui est de plus ou moins 21 jours, tu n'a aucun frais

Pour les assurances, tu en as avec ta carte de débit. Pour le reste, les 21 jours "gratuits", les remises et les points, ils se les financent bien en récupérant de l'argent quelque part…

C'est comme une plante carnivore, cela t'attire avec des belles couleurs et une belle odeur, mais une fois tombé dedans, c'est dure d'en ressortir.

C'est comme une carte de débit mais faut faire attention à ce que tu dépense et connaitre tes limites

Et c'est pour cela qu'apparemment 30% des Canadiens ont une dette de carte de crédit.
https://www.ratehub.ca/cartes-de-credit/dettes

[el_slapper]

Il ne faudrait quand même pas trop vite oublier que si la carte de crédit est personnelle et n'est pas sur un compte joint, le contractant est a priori le seul responsable de la dette contractée. Quelque soit donc la situation financière du couple, en cas de divorce, la dette risque bien de ne pas être "partagée", et donc d'être à charge du contractant initial. Ce qui peut ainsi expliquer des disparités au sein d'un couple.

Les deux intervenants semblent ne pas avoir ce genre de distinctions entre eux et leur épouse. Mais ce n'est pas le plus important.

Il ne faut pas aussi oublier que c'est un algorithme d'apprentissage, qui n'a appris pas uniquement sur des couples, mais aussi sur des individus. Ainsi les sources de revenus et capacités individuels sont sûrement considérés.

ça, c'est le plus important. L'algorithme d'apprentissage est une boite noir, et donc on ne sait pas ce qui se passe. Là, on a des gens bien informés qui ont vu un truc massif, mais il peut y avoir plein d'autres horreurs cachées indetectables.

Puis bon, on ne le répétera jamais assez, les cartes de crédits sont des arnaques, faut utiliser des cartes de débits (à moins d'être richissime).

D'accord, mais on parle des USA - un pays ou on a baissé les salaires en disant aux gens "mais c'est pas grave, vous pourrez vous endetter et garder votre niveau de vie". enfin, d'une manière suffisament bien emballée pour que ça passe, hein.

Les crédits doivent être utilisés pour de l'investissement, jamais pour de la consommation, c'est la base.

Encore une fois, on vit dans une société ou la plupart des gens ont pour plus grande peur l'idée de passer pour des ploucs. Entre se mettre dans le caca avec plein de dettes, et arriver au travail avec une petite voiture(ou un chemisier un peu usé, pour taper des deux cotés), le choix est vite fait. J'ai dit du mal des USA, mais on en est presque au même point, en fait. Toi, tu parles efficacité, rationalité, et bonne gestion. Comment veux-tu qu'on t'entende?

(évidemment, sur ce point, je suis à 100% d'accord avec toi - mais j'ai l'impression qu'on mène un combat à pente montante, sur ce point là)

(.../...)Les hommes en revanchent dépensent plus pour des achats "concrets", plus orienté investissement que consommable, plus utilitaire que cosmétique. Par exemple pour la voiture ou du matériel informatique.
Et si, le RGB, c'est totalement un investissement utilitaire.

En bref, quand il s'agit de dépenser 30k dans un SUV pour rouler 15 minutes par jour sur autoroute, les hommes sont champions. Les excès sont différents, mais réels des deux cotés.

[Ryu2000]

Entre se mettre dans le caca avec plein de dettes, et arriver au travail avec une petite voiture(ou un chemisier un peu usé, pour taper des deux cotés), le choix est vite fait.

Le choix d'une personne raisonnable c'est de ne pas s'endetter pour des conneries !
Vous les payer combien vos chemises ? Parce que je vois mal comment finir endetté en achetant des vêtements alors qu'on a un travail.
Le gars qui est tellement superficiel qu'il veut une grosse voiture pour aller au boulot mérite de finir endetter.

Il y a n'a pas besoin de dépenser des milliers d'euros dans sa tenue :