Discussion :

[Stéphane le calme]

Siri : Apple présente ses excuses pour avoir laissé des sous-traitants écouter des enregistrements,
certains s'étaient amusés à retrouver l'identité des utilisateurs

Apple a officiellement présenté ses excuses pour ses pratiques en matière de protection de la vie privée, consistant à demander secrètement à des sous-traitants d'écouter des enregistrements de clients discutant avec son assistant numérique Siri pour améliorer le service. L'éditeur d'iOS affirme que « Notre objectif avec Siri, l’assistant intelligent pionnier, est de fournir la meilleure expérience à nos clients tout en protégeant avec vigilance leur vie privée. Nous savons que les clients ont été préoccupés par les récents rapports de personnes écoutant des enregistrements audio Siri dans le cadre de notre processus d'évaluation de la qualité Siri, que nous appelons le classement. Nous avons entendu leurs préoccupations, suspendu immédiatement le classement humain des demandes Siri et entamé un examen approfondi de nos pratiques et politiques. Nous avons donc décidé d’apporter des modifications à Siri ».

Le billet de blog est divisé en plusieurs parties. Dans l'une d'entre elles, Apple indique comment Siri protège la vie privée des utilisateurs, dans une autre, Apple explique en quoi les données des utilisateurs peuvent améliorer Siri et dans une dernière, Apple parle des changements qui seront appliqués.

Protection de la vie privée

Concernant la protection de la vie privée, Apple assure que :

« Siri a été conçu pour protéger la confidentialité des utilisateurs depuis le début. Nous nous concentrons sur le plus possible les appareils, en minimisant la quantité de données collectées avec Siri. Lorsque nous stockons des données Siri sur nos serveurs, nous ne les utilisons pas pour créer un profil marketing et nous ne les vendons jamais. Nous utilisons les données Siri uniquement pour améliorer Siri, et nous développons constamment des technologies pour rendre Siri encore plus respectueux de la vie privée.

« Siri utilise le moins de données possible pour fournir un résultat précis. Lorsque vous posez une question sur un événement sportif, par exemple, Siri utilise votre position générale pour fournir des résultats appropriés. Mais si vous demandez l’épicerie la plus proche, des données de localisation plus spécifiques sont utilisées.

« Si vous demandez à Siri de lire vos messages non lus, Siri demande simplement à votre appareil de lire vos messages non lus à voix haute. Le contenu de vos messages n’est pas transmis aux serveurs de Siri, car cela n’est pas nécessaire pour répondre à votre demande.

« Siri utilise un identifiant aléatoire (une longue chaîne de lettres et de chiffres associée à un seul appareil) pour garder une trace des données en cours de traitement, plutôt que de les associer à votre identité via votre identifiant Apple ou votre numéro de téléphone. Ce processus est selon nous unique parmi les assistants numériques utilisés de nos jours. Pour plus de protection, au bout de six mois, les données de l’appareil sont dissociées de l’identificateur aléatoire. »

Comment vos données améliorent Siri

Pour que Siri puisse effectuer des tâches personnalisées plus précisément, il collecte et stocke certaines informations sur votre appareil. Par exemple, lorsque Siri rencontre un nom peu commun, il peut utiliser les noms de vos contacts pour s’assurer qu’il le reconnaît correctement.

Siri s'appuie également sur les données de vos interactions avec elle. Cela inclut l'audio de votre demande et une transcription de celle-ci générée par ordinateur. Apple utilise parfois l'enregistrement audio d'une requête, ainsi que la transcription, dans un processus d'apprentissage automatique qui « entraîne » Siri et donc l'améliore.

« Avant de suspendre le classement, notre processus impliquait d'examiner un petit échantillon d'audio provenant de demandes Siri - moins de 0,2% - et leurs transcriptions générées par ordinateur, afin de mesurer la qualité de la réponse de Siri et d'améliorer sa fiabilité. Par exemple, l’utilisateur avait-il l’intention de réveiller Siri ? Siri a-t-il bien compris la demande ? Et Siri a-t-il répondu de manière appropriée à la demande ? »

Les changements appliqués

Apple a évoqué un certain nombre de changements après avoir présenté ses excuses.

À la suite de notre examen, nous réalisons que nous n’avons pas pleinement respecté nos idéaux élevés et nous nous en excusons. Comme nous l’avions annoncé précédemment, nous avons mis fin au programme de classement Siri. Nous prévoyons de reprendre cet automne, lorsque les mises à jour logicielles seront distribuées à nos utilisateurs, mais uniquement après avoir apporté les modifications suivantes:

• Premièrement, par défaut, nous ne conservons plus les enregistrements audio des interactions Siri. Nous continuerons d’utiliser des transcriptions générées par ordinateur pour aider Siri à s’améliorer.
• Deuxièmement, les utilisateurs pourront choisir d'aider Siri à s'améliorer en tirant parti des échantillons audio de leurs demandes. Nous espérons que de nombreuses personnes choisiront d'aider Siri à s'améliorer, sachant qu'Apple respecte leurs données et dispose de contrôles de confidentialité puissants. Ceux qui choisissent de participer pourront se retirer à tout moment.
• Troisièmement, lorsque les clients le souhaitent, seuls les employés d’Apple seront autorisés à écouter des échantillons audio des interactions Siri. Notre équipe travaillera à la suppression de tout enregistrement considéré comme un déclencheur par inadvertance de Siri.

30 français travaillant pour Apple ont écouté les enregistrements de Siri et se sont amusés à retrouver l’identité des utilisateurs

Apple était l’une des nombreuses grandes entreprises de technologie (y compris Google, Amazon et Facebook) qui s’est fait épinglée après avoir faire appel à des sous-traitants rémunérés pour écouter et classer les enregistrements de son assistant numérique, ce qui n’était pas clair pour les clients. Selon le rapport du Guardian, ces sous-traitants avaient accès à des enregistrements contenant de nombreuses informations confidentielles, souvent dues à des déclencheurs accidentels de Siri, et les travailleurs auraient écouté chacun jusqu’à 1 000 enregistrements par jour.

Conformément à l'annonce d'Apple, l’enregistrement non facultatif et les politiques de classement subséquentes sont désormais suspendus pour de bon. Apple dit qu'il ne conservera plus les enregistrements audio de Siri, sauf si un utilisateur y consent spécifiquement. Et dans les cas où les clients choisissent d'accorder leurs données à Apple, seuls les employés d'Apple auront accès (et non les contractants embauchés, semble-t-il). La société a également promis de travailler à la suppression des enregistrements suite à des déclenchements accidentels, qui, selon le rapport du Guardian, constituaient la principale source d’informations sensibles.

Selon la déclaration d’Apple, la société envisage de reprendre le classement des enregistrements Siri dans le cadre de ces nouvelles règles plus tard cet automne, à la suite d’une mise à jour logicielle qui ajoute la nouvelle option d’inscription à ses appareils.

En France, selon une édition du Canard Enchaîné de cette semaine, 30 Français travaillant pour Apple ont écouté les enregistrements de Siri en s’amusant à retrouver l’identité des utilisateurs pour « rompre la monotonie » : « Contrairement à ce qu'a raconté Apple, c'était relativement facile. Le nom de l'utilisateur de l'iPhone ou de l'Apple Watch nous était masqué, mais on se débrouillait avec le sujet de l'enregistrement ».

L’un d’entre eux raconte qu’il était embauché pour une durée de 6 mois, payé 10 dollars de l’heure. L’opération aurait été volontairement discrète : il évoque un nom de code et le fait qu’il ne fallait pas mentionner qu’ils travaillaient pour le compte d’Apple. Au-delà de l’anecdotique, il raconte qu’il aurait eu accès à des informations très sensibles, car les utilisateurs déclenchaient souvent Siri par erreur. Il aurait entendu des conversations chez le médecin ou avec un avocat. Ces enregistrements étaient anonymisés, mais ils auraient réussi trouver l’identité de plusieurs interlocuteurs. Selon lui, ce serait plus simple que ce qu’Apple ne laisse entendre.

Sources : Apple, Twitter

Et vous ?

Que pensez-vous de la décision d'Apple ?
Le fait que des sous-traitants aient abusé de leur position pour retrouver des utilisateurs vous semble-t-il surprenant ?
Êtes-vous disposé à autoriser explicitement un fournisseur d'assistant numérique (Apple ou autre) à utiliser vos données pour améliorer le service ? Pourquoi ?

Voir aussi :

Tim Cook affirme qu'Apple fera un don pour « restaurer l'indispensable forêt amazonienne en Amérique latine », après les incendies qui ont ravagé la région
Des entreprises américaines demandent à Apple et à Amazon de mettre les travailleurs et la planète avant les profits, une approche approuvée par certains investisseurs
Google, Apple et Mozilla bloquent l'espionnage par navigateur du gouvernement du Kazakhstan, après qu'ils aient utilisé un certificat racine pour intercepter et déchiffrer le trafic Internet
Des développeurs accusent Apple de se livrer à des pratiques anticoncurrentielles à cause des changements introduits dans la politique de confidentialité de iOS 13

[Dgamax]

Rien d'étonnant avec toutes ses techno à base de machine learning et deep learning, il faut beaucoup de data et faut qu'elle soit taggué par des humains pour avoir un résultat correcte.
Le smartphone est une petite merveille pour l'espionnage, que ça soit chez l'un ou l'autre, qu'on dise qu'on écoute pas ou qu'on ne vend pas vos données c'est du marketing mais la réalité est tout autre, il faut pas rêver, c'est comme si une banque te disait je garde ton argent et je n'y touche pas...

[Jon Shannow]

Apple présente ses excuses pour avoir laissé des sous-traitants écouter des enregistrements Siri

Et pour vendre 100 fois trop cher ses produits, il s'excuse quand ?

[Invité]

Et pour vendre 100 fois trop cher ses produits, il s'excuse quand ?

Je ne vois pas matière à s'excuser s'il y a assez de pigeons pour embarquer dans leur propagande et acheter des produits bien trop chers qui va permettre des les espionner continuellement avec leur accord en plus

[sebastiano]

Heureusement qu'il y a Google pour prendre le contrepied d'Apple et ne pas revendre de données à des tiers.

[nucle]

Personnellement, je trouve que traiter et posséder des données personnelles devraient faire l'obtention d'un permis. Et que lors de grosses escroqueries comme cela arrive toujours à Apple, Amazon, Google et Facebook (Microsoft n'est pas là? Bizarre), ce permis devraient leur être retiré définitivement en plus d'une amende record.

Maintenant qu'ils ont perfectionné leur IA, ils peuvent s'excuser platement et faire pression pour créer des lois de protection afin que des concurrents ne puissent pas arriver au même point qu'eux. C'est d'une injustice écœurante.

Ils ont construit leur business et leurs monopoles à coup de malversations. Une fois ces malversations connues du public, ils ne sont jamais punis en conséquence de ce qu'ils ont gagnés. Ils restent complètement bénéficiaire.
C'est comme si je volais 1000eur et que j'étais seulement condamné à une amende de 10eur et une réprimande sans devoir rembourser le montant dérobé. Et on voudrait qu'ils arrêtent de voler?

[Ryu2000]

ne pas revendre de données à des tiers.

Je crois qu'ici ce n'est pas ça le problème, dans le cas présent Apple a fait appel à des sous-traitants rémunérés pour écouter et classer les enregistrements de son assistant numérique et c'est ça qui passe mal.

Ensuite je crois que les entreprises comme Google et Facebook ne vendent pas directement les données des utilisateurs, elles font la liste des centres d’intérêts de chaque utilisateur pour faire de la publicité ciblée.
Une entreprise qui vend des leurres veut que son annonce apparaisse chez des personnes qui aiment la pèche.

[sebastiano]

Je crois qu'ici ce n'est pas ça le problème, dans le cas présent Apple a fait appel à des sous-traitants rémunérés pour écouter et classer les enregistrements de son assistant numérique et c'est ça qui passe mal.

Ensuite je crois que les entreprises comme Google et Facebook ne vendent pas directement les données des utilisateurs, elles font la liste des centres d’intérêts de chaque utilisateur pour faire de la publicité ciblée.
Une entreprise qui vend des leurres veut que son annonce apparaisse chez des personnes qui aiment la pèche.

C'est le discours de Zuckerberg en effet.

La réalité est probablement toute autre.

[Stéphane le calme]

Même les employés d'Apple détestent Siri et sont sceptiques quant à son avenir, selon un nouveau rapport
qui évoque des tensions internes freinant le développement de l'assistant et provoquant des départs d'ingénieurs

Le responsable de Siri chez Apple, John Giannandrea, fait face à des difficultés internes pour diriger la division de l’intelligence artificielle d'Apple, alors qu’une nouvelle génération de technologies d’IA comme ChatGPT émerge et menace de dépasser les capacités de l’assistant vocal d’Apple. L’enjeu est important pour Apple, qui mise sur l’IA pour améliorer ses produits et services et fidéliser ses clients. Siri est l’un des principaux atouts d’Apple dans le domaine de l’IA, mais il est souvent critiqué pour son manque de fiabilité et sa faible compréhension du langage naturel. ChatGPT représente une menace potentielle pour Siri, car il pourrait offrir une expérience plus fluide et plus personnalisée aux utilisateurs.

À la fin de l'année dernière, un trio d'ingénieurs qui venait d'aider Apple à moderniser sa technologie de recherche a commencé à travailler sur le type de technologie sous-jacente à ChatGPT, le chatbot d'OpenAI qui captive le public depuis son lancement en novembre dernier. Pour Apple, il n'y avait qu'un seul problème : les ingénieurs n'y travaillaient plus. Ils avaient quitté l'entreprise pour travailler sur la technologie, connue sous le nom de modèles à grand langage, chez Google.

Les trois hommes - Srinivasan Venkatachary, Steven Baker et Anand Shukla - ont quitté Apple l'automne dernier en partie parce qu'ils pensaient que Google était un meilleur endroit pour travailler sur les LLM, qui sont capables de comprendre le langage et de générer des réponses humaines, selon deux personnes familières avec leur pensée. Ils sont une denrée rare : Google les voulait tellement que son PDG, Sundar Pichai, a personnellement courtisé le groupe, tandis que le PDG d'Apple, Tim Cook, a tenté de les persuader de rester, selon deux personnes qui en ont parlé à Venkatachary. Ils travaillent maintenant sur les efforts de Google pour réduire le coût de la formation et améliorer la précision des LLM et des produits basés sur ces modèles, selon l'une de ces personnes.

C'est en tout cas ce qu'avance un nouveau rapport de The Information, qui donne un aperçu du chaos apparent au sein des équipes d'Apple travaillant sur Siri et l'intelligence artificielle. Selon l'histoire, « un dysfonctionnement organisationnel et un manque d'ambition » ont miné les efforts d'Apple pour améliorer Siri et la technologie backend qui l'alimente.

Ce dysfonctionnement a conduit Apple à prendre de plus en plus de retard sur des concurrents comme OpenAI, Microsoft et Google, amenant certains employés d'Apple à s'interroger sur l'avenir.

Les difficultés d'évolution au sein d'Apple

Le rapport est basé sur « des entretiens avec plus de trois douzaines d'anciens employés d'Apple qui ont travaillé dans ses groupes d'intelligence artificielle et d'apprentissage automatique ». Le rapport fait suite à une histoire similaire du New York Times plus tôt ce mois-ci, qui expliquait comment Siri est construit sur une base de données « maladroite » qui conduit finalement à prendre « des semaines » pour que Siri soit mis à jour avec des « fonctionnalités de base ».

L'un des principaux problèmes auxquels est confrontée l'équipe Siri, dirigée par l'ancien cadre de Google John Giannandrea, est la rétention des employés. Giannandrea, qui a rejoint Apple en 2018 après avoir dirigé la recherche et l’IA chez Google, a pour mission de renforcer les capacités d’IA d’Apple et de rattraper ses concurrents comme Google et Amazon. Il a notamment supervisé la refonte du moteur de recherche d’Apple et le lancement de nouvelles fonctionnalités pour Siri.

Giannandrea tente de recruter plus de talents en IA et de créer une culture plus collaborative au sein d’Apple. Il a également lancé des projets pour développer les propres LLM d’Apple et les intégrer à Siri et à d’autres produits.

Mais il doit aussi faire face à des résistances internes de la part d’autres dirigeants qui craignent de perdre du pouvoir ou de voir leurs projets annulés. Par exemple, il a eu des conflits avec Craig Federighi, le responsable du logiciel d’Apple, qui supervise Siri depuis 2017 et qui est réticent à lui céder le contrôle. De plus, Giannandrea se heurte également à des contraintes techniques et éthiques, comme la protection de la vie privée des utilisateurs et le respect du droit d’auteur.

Selon The Information, Apple a perdu trois de ses ingénieurs Siri au profit de Google : Srinivasan Venkatachary, Steven Baker et Anand Shukla. Ces employés ont initialement rejoint Apple en 2019, lorsque Apple a acquis leur startup Laserlike. Ces trois ingénieurs avaient travaillé sur les fonctionnalités de recherche de Siri, mais ils ont estimé que Google offrait plus d’opportunités et de ressources pour travailler sur cette technologie prometteuse qu'est LLM.

Le projet Blackbird

En 2019, l'équipe Siri a exploré un projet visant à réécrire l'assistant virtuel à partir de zéro, sous le nom de code "Blackbird". Ce projet visait à créer une version allégée de Siri qui déléguerait la création de fonctions aux développeurs d'applications et fonctionnerait sur les iPhones plutôt que côté serveurs afin d'améliorer les performances et la confidentialité.

Les démonstrations de Blackbird ont apparemment suscité l'enthousiasme des employés d'Apple en raison de son utilité et de sa réactivité. Blackbird est entré en concurrence avec le travail de deux cadres supérieurs de l'équipe Siri, chargés d'aider Siri à comprendre les requêtes et à y répondre. Ces personnes ont poussé à la réalisation de leur propre projet, sous le nom de code "Siri X", pour le 10^e anniversaire de l'assistant virtuel. Ce projet visait simplement à déplacer le traitement de Siri en local pour des raisons de confidentialité, sans l'ambitieuse fonctionnalité modulaire de Blackbird. Des centaines d'employés travaillant sur Blackbird ont été affectés à Siri X, ce qui a mis fin au projet le plus ambitieux. Siri X a été en grande partie achevé en 2021 et de nombreuses fonctions de l'assistant vocal sont désormais traitées localement.

Les employés d'Apple se seraient moqués de Siri

A l'intérieur d'Apple, ce rapport laisse entendre que « Siri reste largement moqué » par les employés. À un moment donné, l'équipe travaillant sur le casque Reality Pro d'Apple aurait été tellement frustrée par Siri qu'elle a envisagé de « construire des méthodes alternatives » pour contrôler le casque avec la technologie vocale.

Au sein d'Apple, Siri reste largement ridiculisé pour son manque de fonctionnalités et d'améliorations depuis que Giannandrea a pris le relais, disent plusieurs anciens employés de Siri. Par exemple, l'équipe de construction du casque de réalité mixte d'Apple, dont son chef Mike Rockwell, a exprimé sa déception face aux démonstrations que l'équipe Siri a créées pour montrer comment l'assistant vocal pouvait contrôler le casque, selon deux personnes proches du dossier. À un moment donné, l'équipe de Rockwell a envisagé de créer des méthodes alternatives pour contrôler l'appareil à l'aide de commandes vocales, ont déclaré les gens (l'équipe du casque a finalement abandonné cette idée).

L'un des goulots d'étranglement auxquels Siri est confronté est que les « hauts dirigeants » d'Apple se méfient du fait que Siri fasse des gaffes majeures dans ses réponses. Ceci, comme nous l'avons vu à propos de ChatGPT, peut conduire à des titres embarrassants et à une mauvaise presse globale pour une plate-forme.

Lors d'une réunion générale, les dirigeants de l'équipe d'intelligence artificielle et d'apprentissage automatique d'Apple ont abordé les tensions, convenant que des erreurs étaient inévitables et qu'il était de leur devoir d'éduquer les hauts dirigeants d'Apple sur la façon dont les modèles d'apprentissage automatique s'améliorent. Dans un exemple, Giannandrea et l'équipe de recherche dirigée par Venkatachary ont finalement pu parvenir à un compromis avec l'équipe de conception de Siri en créant un bouton permettant aux utilisateurs de signaler un problème ou un souci avec le contenu d'une réponse de Siri, a expliqué un ancien employé de Siri.

En fait, de multiples incidents qui ont affecté Siri ont conduit les employés à être « sceptiques » quant au fait qu'Apple réussira un jour à faire correspondre la technologie derrière des choses comme ChatGPT :

Ces incidents expliquent pourquoi de nombreux anciens employés du groupe IA d'Apple doutent que l'entreprise réussisse à développer la prochaine vague de produits d'IA basés sur les LLM. Les hauts dirigeants de l'entreprise n'ont pas montré beaucoup d'estomac pour le genre de gaffes qui font la une des journaux dans lesquelles ChatGPT et des services similaires sont tombés au cours des derniers mois.

Conclusion

Le rapport nous offre un aperçu complet de l'état actuel de Siri et de la manière dont les ingénieurs d'Apple travaillent pour améliorer la plate-forme, malgré certains conflits internes. Il nous apprend que des équipes d'Apple planchent sur des modèles de langage naturel similaires à ceux utilisés pour ChatGPT, avec la potentialité de remplacer un jour Siri. Ce que nous ne savons pas, en revanche, ce sont les ambitions d'Apple en la matière. L'entreprise veut-elle préparer un concurrent à ChatGPT ? Améliorer simplement son assistant numérique ? Quoi qu'il en soit, il serait difficile de s'attendre à une refonte de Siri dès cette année.

De plus, selon un autre rapport, les ingénieurs du fabricant d'iPhone ont fait des propositions pour incorporer des capacités d'apprentissage automatique dans Siri qui sont similaires à celles trouvées dans le très populaire ChatGPT. Il est prévu d'introduire des améliorations à Siri en 2024, mais l'approche prudente d'Apple concernant le développement de Siri au cours des 12 dernières années signifie qu'il n'y a aucune garantie que les changements seront approuvés par la direction.

Source : rapport de The Information

Et vous ?

Quelle lecture en faites-vous ?

[edrobal]

Mais comme jeune il n'était déjà pas intelligent....

[shenron666]

puisque la plupart des entreprises ont remplacé une partie de leur personnel par l'IA
https://www.developpez.net/forums/d2.../#post11940465
pourquoi ils n'utilisent pas l'IA pour les aider à créer une IA meilleure que l'IA Actuelle ?