IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Développement iOS Discussion :

Apple suspend ses notifications générées par IA après la diffusion de faux titres


Sujet :

Développement iOS

  1. #21
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Octobre 2017
    Messages
    2 048
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Octobre 2017
    Messages : 2 048
    Points : 6 406
    Points
    6 406
    Par défaut
    Tim Cook n'est pas sûr et le 100% des vrais chercheurs en IA savent qu'il n'est pas possible de supprimer les hallucinations des IA.

    Pour la bonne raison que depuis le début de l'IA, personne n'a été capable d'expliquer le pourquoi des hallucinations et cela pour une raison simple, une vraie IA est un système neuronal qui apprend par lui-même sans que l'on sache vraiment par quel moyen il apprend: Par exemple, on enseigne à une IA à reconnaitre des oranges sur une photo. Sur quelle base est-ce que l'IA en question va conclure qu'il s'agit d'une orange? Parce qu'elle y voit une boule de couleur orange? Parce qu'elle prend en compte une série de pixels sur la photo qui étant de couleur orange permet de conclure à la présence du fruit? Etc, etc, etc...

    Au final, supprimer les hallucinations des IA revient à pouvoir répondre à la question "Qui est le premier de l'oeuf ou de la poule?"


    Mais bon dire la vérité n'est pas la caractéristique première d'un commerçant, tel le vendeur de poisson faisandé, Tim Cook crie à l'envie " Il est frais mon poisson... Il est frais!"

  2. #22
    Chroniqueur Actualités

    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Juin 2023
    Messages
    1 059
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 059
    Points : 18 745
    Points
    18 745
    Par défaut OpenAI acquiert la startup Multi spécialisée dans les technologies de partage d'écran et de collaboration
    OpenAI acquiert la startup Multi qui propose un outil de partage d'écran et de collaboration pour les équipes de génie logiciel sous macOS
    exacerbant les craintes liées à une profonde intégration de ChatGPT

    OpenAI semble en pleine phase de fusion et d'acquisition. Le laboratoire d'IA de San Francisco rachète la startup Multi quelques jours seulement après avoir annoncé l'acquisition de l'entreprise de base de données Rockset. Multi, auparavant Remotion, est une plateforme de partage d'écran et de collaboration conçue spécialement pour les équipes de génie logiciel. Elle offre des fonctionnalités comme le partage de curseurs et le partage d'écran simultané avec jusqu'à 10 personnes. L'acquisition a suscité de nombreuses spéculations sur la manière dont les fonctionnalités de Multi pourraient être intégrées aux systèmes d'IA d'OpenAI.

    Des sources proches d'OpenAI rapportent que l'opération est techniquement une acquisition et que la plupart des membres de l'équipe de Multi, environ cinq personnes, rejoindront OpenAI à la suite de la conclusion de la transaction. Alexander Embiricos, PDG de Multi et l'un de ses cofondateurs, a déclaré que Multi fermerait ses portes après le 24 juillet. Dans un message publié sur le blogue de Multi, il s'est adressé aux utilisateurs : « nous sommes très heureux d'annoncer que Multi rejoint OpenAI. Merci à tous ceux qui ont utilisé Multi. Ce fut un privilège de construire avec vous, et nous avons beaucoup appris de vous ».

    Nom : 4587.png
Affichages : 4798
Taille : 105,1 Ko

    Embiricos et les autres cofondateurs de Multi ont entrepris de construire une plateforme basée sur logiciel propriétaire de visioconférence Zoom. La plateforme offre des fonctionnalités telles que la possibilité de collaborer sur des partages d'écran avec jusqu'à 10 personnes en même temps, des raccourcis personnalisables et des liens profonds automatiques pour le code, les conceptions et les documents. La plateforme comprend également un ensemble d'outils d'IA. Elle peut résumer automatiquement une réunion. Selon Embiricos, avec Multi, l'équipe ambitionne de rendre les PC "intrinsèquement multijoueurs". Il explique :

    Citation Envoyé par Alexander Embiricos

    Et si les ordinateurs de bureau étaient intrinsèquement multijoueurs ? Et si le système d'exploitation mettait les gens sur un pied d'égalité avec les applications ? Telles sont les questions que nous avons explorées en créant Multi et, avant cela, Remotion.

    Récemment, nous nous sommes de plus en plus interrogés sur la manière dont nous devrions travailler avec les ordinateurs. Non pas sur ou avec des ordinateurs, mais véritablement avec des ordinateurs. Avec l'IA. Nous pensons qu'il s'agit de l'une des questions les plus importantes de notre époque en matière de produits.

    C'est pourquoi nous sommes ravis d'annoncer que Multi rejoint OpenAI !

    Malheureusement, cela signifie que nous mettons fin à Multi. Nous avons fermé les inscriptions de nouvelles équipes, et les équipes actuellement actives pourront utiliser l'application jusqu'au 24 juillet 2024, après quoi nous supprimerons toutes les données des utilisateurs.

    Si vous avez besoin d'aide ou de temps pour trouver une solution de remplacement, envoyez un courriel à "alexander@multi.app". Nous serons ravis de vous proposer des alternatives en fonction de ce que vous aimiez exactement chez Multi, et nous pouvons également accorder des prolongations au cas par cas.
    Il s'agit là d'un positionnement audacieux, en particulier en ce qui concerne le fait de rendre les PC "intrinsèquement multijoueurs". Dans la communauté, l'annonce a suscité des spéculations sur la manière dont les fonctionnalités de la plateforme de Multi pourraient être intégrées dans les systèmes d'IA d'OpenAI, notamment ChatGPT, à l'avenir. Les utilisateurs de X spéculent sur le fait qu'OpenAI utilisera les capacités de la plateforme de Multi pour permettre à ses modèles d'IA, notamment GPT-4o, de prendre "le contrôle" de l'ordinateur d'un utilisateur et d'effectuer des actions en son nom sur la base d'un texte ou d'une voix.


    Ainsi, vous pourriez dire quelque chose comme "ChatGPT, crée une feuille de calcul de mes dernières heures et envoie-la à mon directeur" et il essaierait de le faire. Un utilisateur, un développeur, a émis l'hypothèse que la fonctionnalité de collaboration et de gestion à distance pourrait être intégrée à l'application de bureau ChatGPT, qui a été annoncée pour Mac au début de l'année. Cela permettrait à ChatGPT de dessiner sur votre écran ou de modifier le code en votre nom. Bien sûr, il ne s'agit que de spéculations et ni OpenAI ni Multi n'ont laissé transparaître les détails de la fusion-acquisition, notamment le montant.

    Toutefois, selon les analystes, il est probable qu'OpenAI cherche à utiliser l'acquisition comme un moyen d'améliorer et d'ajouter des fonctionnalités à ses plans d'abonnement ChatGPT for Team et Enterprise, car ceux-ci sont déjà plus axés sur la fourniture de technologie pour les équipes afin d'aider tous les individus qui en font partie à mieux travailler ensemble. Certains utilisateurs ont été enthousiasmés par ces idées d'amélioration, mais d'autres ont naturellement exprimé des inquiétudes quant à la sécurité et à la protection de la vie privée liées au fait de laisser un système d'IA sujet aux erreurs prendre le contrôle de votre PC.

    Fondée à l'origine sous le nom de Remotion en 2019, Multi s'est d'abord concentrée sur la création d'une sorte de plateforme de vidéoconférence et de partage d'écran de PC de bureau de type Zoom pour l'ère de la pandémie de Covid-19. Selon les données de Crunchbase, Multi a levé 13 millions de dollars en espèces auprès de sociétés de capital-risque, dont Greylock et First Round Capital, avant l'annonce de lundi. L'entreprise a lancé son application initiale en octobre 2020 pour macOS comme une alternative de vidéoconférence "plus légère" à Zoom ou Microsoft Teams, tout en apportant plusieurs améliorations à son offre.

    L'été dernier, la société s'est rebaptisée Multi dans le cadre d'un recentrage stratégique visant à aider les équipes techniques à construire ensemble, plus rapidement. Auparavant, Remotion se concentrait principalement sur les équipes à distance, montrant ainsi que la société évoluait parallèlement au marché en s'éloignant du travail entièrement à distance. L'application Multi a été repensée pour mettre l'accent sur le partage d'écran des fenêtres d'application sur plusieurs ordinateurs de bureau, ce qui permet aux membres de l'équipe de travailler plus facilement lors des appels (la nouvelle version est basée sur Zoom).

    L'offre de Multi permet aux équipes de travailler dans des vues communes et partagées sur leurs ordinateurs de bureau, de dessiner et d'annoter sur les applications qu'ils ont ouvertes sur leurs bureaux, et même de fusionner leurs vues d'application distinctes en une seule vue partagée. Dans un billet de blogue, la société indique aux utilisateurs : « vous avez la possibilité de travailler dans les applications de vos coéquipiers, comme Xcode et Terminal, comme si elles étaient ouvertes sur votre ordinateur ». Jusqu'ici, la mission de Multi consistait à déballer "le travail de son conteneur", qu'il s'agisse d'une application ou d'un site Web.


    Il y a quelques mois, Multi a lancé une application iOS bêta et a aussi commencé à ajouter des résumés alimentés par un grand modèle de langage (LLM) pour les sessions de travail partagées et les appels vidéo entre les membres de l'équipe. Cependant, à l'époque, Multi pensait que "les chatbots ne sont pas l'avenir" et avait renvoyé à un article d'Amelia Wattenberger, chercheuse sur Github, qui expliquait que les interfaces actuelles de chat pour les LLM ne fournissaient pas suffisamment de contexte ou d'indices sur la manière dont l'utilisateur devait interagir avec l'IA ni suffisamment d'informations sur ce que faisait l'IA.

    Aujourd'hui, toute l'équipe de Multi rejoint le fournisseur de modèles. Une volte-face intéressante, mais peut-être inspirante, si l'équipe Multi est en mesure d'apporter davantage de sa vision à l'équipe ChatGPT. Comme pour le rachat de Rockset, l'acquisition de Multi semble s'inscrire dans la stratégie récente d'OpenAI qui consiste à investir massivement dans les solutions d'entreprise. OpenAI a récemment révélé que l'offre ChatGPT Enterprise comptait près de 600 000 utilisateurs, dont 93 % des entreprises du Fortune 500. Cela signifie que des améliorations substantielles pourraient attirer plus de clients et rapporter plus.

    En mai, OpenAI a signé un accord avec PwC pour revendre ses outils à d'autres entreprises. Le mois précédent, l'entreprise a lancé un programme de conseil et d'optimisation de modèles d'IA personnalisés destiné aux entreprises. Les achats des entreprises semblent porter leurs fruits, car selon les estimations, le chiffre d'affaires d'OpenAI devrait dépasser les 3,4 milliards de dollars cette année. Dans la même veine que les autres efforts d'OpenAI en matière de produits destinés aux entreprises, il est possible que l'on ait un jour voir un ChatGPT avancé avec des capacités de vidéoconférence et de collaboration à distance.

    Microsoft et Apple se sont attaqués à l'idée d'intégrer des systèmes d'IA plus profondément dans les PC par le biais du système d'exploitation, notamment la fonction Recall dans les PC Copilot+ et Apple Intelligence dans les Mac. Cela explique peut-être pourquoi OpenAI commence à explorer ce domaine de son côté.

    Multi pourrait-il aider l'IA à s'affranchir des limites de l'application elle-même pour contrôler votre PC de manière autonome ? Nous ne le saurons probablement pas avant un certain temps, mais il n'est pas exclu que l'acquisition porte sur un élément clé de la technologie qui pourrait permettre à OpenAI d'y parvenir.

    Source : Multi

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous de l'acquisition de la startup Multi par OpenAI ?
    Comment OpenAI peut-il tirer partir des fonctionnalités de la plateforme de Multi ?
    Que pensez-vous de l'idée consistant à permettre à une IA de prendre le contrôle de votre PC ?
    Quels sont les avantages ? Quels sont les risques en matière de sécurité et de protection de la vie privée ?
    Que pensez-vous des préoccupations en matière de sécurité liées à une intégration profonde de ChatGPT sur les appareils Apple ?

    Voir aussi

    OpenAI acquiert Rockset, une start-up spécialisée dans les bases de données, afin d'améliorer les performances de ChatGPT, dont notamment les temps de réponse du chatbot IA grâce à l'indexation en temps réel

    Microsoft et OpenAI travaillent sur un projet de centre de données dont le coût pourrait atteindre 100 milliards $ et qui comprendrait un superordinateur d'intelligence artificielle appelé "Stargate"

    Les autorités américaines ont ouvert la voie à des enquêtes antitrust sur Nvidia, Microsoft et OpenAI, trois des plus grands acteurs de l'intelligence artificielle

  3. #23
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    Mars 2013
    Messages
    9 161
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : Mars 2013
    Messages : 9 161
    Points : 211 123
    Points
    211 123
    Par défaut Apple va obtenir un rôle d'observateur au sein du conseil d'administration d'OpenAI dans le cadre d'un accord
    Apple va obtenir un rôle d'observateur au sein du conseil d'administration d'OpenAI dans le cadre d'un accord sur l'IA,
    si Apple ne paie pas pour utiliser ChatGPT, l'entreprise permet à OpenAI d'avoir accès à des millions d'utilisateurs

    Le mois dernier, une annonce historique a secoué le monde de l’intelligence artificielle : Apple Inc. obtiendra un rôle d’observateur au sein du conseil d’administration d’OpenAI. Cette collaboration inattendue soulève des questions sur les implications pour l’industrie de l’IA, les relations entre les géants technologiques et la gouvernance d’OpenAI. Apple ne paiera pas OpenAI pour utiliser ChatGPT, mais l'accord permettra à la start-up d'accéder à des centaines de millions d'utilisateurs. La suite de fonctions d'IA générative d'Apple, baptisée "Apple Intelligence", devrait être lancée dans le courant de l'année.

    Vue d'ensemble

    Les acteurs clés
    • Apple Inc. : la société emblématique derrière l’iPhone, les MacBooks et l’écosystème iOS. Bien qu’Apple ait investi dans l’IA ces dernières années, elle n’a pas été aussi active que d’autres entreprises technologiques dans ce domaine.
    • OpenAI : fondée en 2015 par Elon Musk, Sam Altman et d’autres, OpenAI s’est donné pour mission de développer une IA sûre et bénéfique pour l’humanité. Elle a reçu un financement important de Microsoft et a travaillé sur des projets tels que GPT-3, GPT-4 qui sous-tendent le chatbot ChatGPT.

    Les enjeux
    • Alliance improbable : Apple et OpenAI ont des histoires très différentes. Apple est connue pour sa discrétion et son secret, tandis qu’OpenAI a souvent été controversée et disruptive. Leur collaboration pourrait-elle être fructueuse malgré ces différences ?
    • Microsoft dans l’équation : Microsoft est le plus grand soutien financier d’OpenAI et fournit également une technologie IA. La présence d’Apple au conseil d’administration mettra-t-elle fin à la relation privilégiée entre Microsoft et OpenAI ?
    • Transparence et gouvernance : La nomination de Phil Schiller, responsable de l’App Store d’Apple, en tant qu’observateur du conseil d’administration soulève des questions sur la transparence et la prise de décision. Comment Apple influencera-t-elle les orientations stratégiques d’OpenAI ?
    • Controverses passées : OpenAI a été critiquée pour son manque de transparence et ses décisions discutables. Comment Apple réagira-t-elle face à ces défis ?


    Nom : chat.png
Affichages : 4149
Taille : 263,0 Ko

    Apple Inc. aura un rôle d'observateur au sein du conseil d'administration d'OpenAI

    Phil Schiller, responsable de l'App Store d'Apple et ancien chef du marketing, a été choisi pour ce poste, selon des personnes au fait de la situation. En tant qu'observateur du conseil d'administration, il ne sera pas un administrateur à part entière, ont déclaré ces personnes, qui ont demandé à ne pas être identifiées parce que l'affaire n'est pas publique.

    Cette décision fait suite à l'annonce par Apple, en juin, de l'intégration de ChatGPT dans l'iPhone, l'iPad et le Mac, dans le cadre d'une série de fonctions d'intelligence artificielle. Le conseil d'administration prendra effet plus tard dans l'année, et Schiller n'a encore assisté à aucune réunion, selon les personnes citées. Les détails de la situation pourraient encore changer.

    Le rôle d'observateur au sein du conseil d'administration mettra Apple sur un pied d'égalité avec Microsoft Corp, le plus grand bailleur de fonds d'OpenAI et son principal fournisseur de technologies d'intelligence artificielle. Ce poste permet à une personne d'assister aux réunions du conseil d'administration sans avoir le droit de voter ou d'exercer d'autres pouvoirs d'administrateur. Les observateurs peuvent toutefois avoir un aperçu de la manière dont les décisions sont prises au sein de l'entreprise.


    Des frictions potentielles

    La participation de Microsoft et d'Apple aux réunions du conseil d'administration pourrait créer des complications pour les géants de la technologie, qui ont été à la fois rivaux et partenaires au fil des décennies. Lors de certaines réunions du conseil d'administration d'OpenAI, il sera probablement question des futures initiatives en matière d'IA entre l'OpenAI et Microsoft, délibérations dont cette dernière société pourrait vouloir exclure Schiller. Les observateurs du conseil d'administration se plient souvent à cette exigence et quittent les réunions lors de discussions jugées sensibles.

    Bien que Schiller ne dirige pas les initiatives d'Apple en matière d'intelligence artificielle, son rôle de vétéran en tant que gardien de la marque de l'entreprise le rend tout à fait apte à occuper le poste d'observateur. Âgé de 64 ans, il a quitté son poste de directeur du marketing en 2020, et son titre actuel est Apple Fellow. En plus de superviser l'App Store, il gère toujours les événements de lancement des produits de l'entreprise. En dehors d'Apple, il est directeur de la société de technologie médicale Illumina Inc.

    Avec le partenariat OpenAI, Apple fait équipe avec la plus grande et la plus influente des startups d'IA, mais aussi avec une entreprise connue pour ses controverses et ses bouleversements. Le directeur général d'OpenAI, Sam Altman, a été brièvement évincé l'année dernière parce qu'il n'était pas assez franc avec le conseil d'administration. L'entreprise a également été critiquée pour avoir minimisé les craintes liées à la sécurité de l'IA et pour avoir utilisé sans accord une voix numérique ressemblant à celle de l'actrice Scarlett Johansson.

    L'intégration d'OpenAI est l'un des éléments de la stratégie globale d'Apple en matière d'IA, qui comprend également des fonctionnalités internes. Sa technologie, appelée Apple Intelligence, résume les articles et les notifications, crée des emojis et des images personnalisées et transcrit les mémos vocaux. L'effort porte également sur une version remaniée de l'assistant numérique Siri d'Apple, mais la plupart de ces améliorations n'arriveront pas avant l'année prochaine.

    Le partenariat entre Apple et OpenAI n'est pas un accord financier, du moins pour l'instant

    Au lieu d'une relation financière au sens propre, OpenAI a accès à des centaines de millions d'utilisateurs potentiels. De son côté, Apple bénéficie d'une fonction de chatbot que de nombreux consommateurs réclament à cor et à cri. Les utilisateurs pourront également accéder à une version payante de ChatGPT sur les appareils Apple, ce qui pourrait générer des frais d'App Store pour le fabricant de l'iPhone.

    Apple est toujours en discussion avec Google (Alphabet Inc.) et la startup Anthropic pour proposer d'autres chatbots à ses clients. Il discute également d'accords potentiels avec Baidu Inc. et Alibaba Group Holding Ltd. afin de proposer ses fonctions d'intelligence artificielle sur les appareils en Chine. Apple Intelligence sera d'abord lancé en anglais américain avant d'être déployé à l'échelle internationale.

    Les cadres supérieurs d'Apple sont souvent administrateurs d'autres sociétés, mais il est rare qu'ils rejoignent le conseil d'administration d'un partenaire de premier plan. Apple a toutefois brièvement siégé au conseil d'administration de DiDi Global Inc. après avoir investi 1 milliard de dollars dans ce concurrent d'Uber basé en Chine.

    Une décision qui intervient après une réorganisation du conseil d'administration d'OpenAI

    Microsoft a investi environ 13 milliards de dollars dans OpenAI dans le cadre d'un partenariat stratégique qui permet au fabricant de ChatGPT d'utiliser les énormes ressources informatiques et en nuage de Microsoft tout en restant une entreprise indépendante. Selon les termes de l'accord, Microsoft a droit à environ la moitié des bénéfices d'OpenAI jusqu'à ce que l'investissement soit remboursé.

    OpenAI a réorganisé son conseil d'administration en mars, avec le retour de Sam Altman, fondateur et directeur général de la start-up, après son éviction spectaculaire en novembre dernier. Un examen du chaos qui régnait dans la salle du conseil n'a révélé aucune preuve qu'il ait trompé les investisseurs ou qu'il ait lancé des produits à un rythme dangereux, ce qui lui avait valu d'être licencié, puis réintégré quelques jours plus tard.

    Trois nouveaux membres ont été ajoutés au conseil d'administration : Fidji Simo, directeur général d'Instacart, Sue Desmond-Hellman, ancienne directrice de la Fondation Bill et Melinda Gates, et Nicole Seligman, ex-présidente de Sony Entertainment. L'ancien secrétaire au Trésor américain Larry Summers a été nommé au conseil d'administration à la fin de l'année dernière, et un membre du conseil précédent, le directeur général de Quora Adam D'Angelo, reste également en place.

    L'accord avec Apple intervient alors que les géants de la technologie, notamment Alphabet, Microsoft, Amazon et Meta, se lancent dans une course au développement de nouveaux produits utilisant l'IA, tout en étant en concurrence avec des start-ups spécialisées dans cette technologie ou, dans certains cas, en s'associant avec elles. Cette situation a attiré l'attention des autorités antitrust américaines, qui ont demandé des informations sur les partenariats entre les grandes entreprises technologiques et les groupes émergents dans le domaine de l'IA.

    Source : NYT

    Et vous ?

    Quelle est votre opinion sur la collaboration entre Apple et OpenAI ? Est-ce une étape positive pour l’avenir de l’IA ou cela soulève-t-il des inquiétudes ?
    Comment pensez-vous que la présence d’Apple et de Microsoft au sein du conseil d’administration d’OpenAI pourrait influencer les décisions stratégiques ? Sont-ils des alliés ou des concurrents ?
    Quelles sont les implications potentielles de cette collaboration pour l’industrie de l’IA ? Pensez-vous que cela pourrait accélérer les progrès technologiques ou créer des conflits d’intérêts ?
    Quels sont les avantages et les inconvénients d’avoir un rôle d’observateur au conseil d’administration plutôt qu’un siège complet ? Quelles informations Phil Schiller pourrait-il apporter à Apple ?
    Comment percevez-vous la gestion des controverses par OpenAI ? Pensez-vous qu’ils ont été transparents et responsables dans leurs décisions ?

  4. #24
    Communiqués de presse

    Femme Profil pro
    Traductrice Technique
    Inscrit en
    Juin 2023
    Messages
    1 885
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France

    Informations professionnelles :
    Activité : Traductrice Technique

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 885
    Points : 131 458
    Points
    131 458
    Par défaut Apple lance certaines fonctionnalités d'IA dans la version bêta développeur d'iOS 18.1
    Apple lance quelques fonctionnalités d'IA dans la version bêta développeur d'iOS 18.1 : des outils d'écriture pour réécrire, relire ou résumer un texte et des améliorations de Siri.

    Apple lance quelques fonctionnalités d'IA dans la version bêta développeur d'iOS 18.1 : des outils d'écriture, comme la possibilité de réécrire, de relire ou de résumer un texte dans tout le système d'exploitation en première partie, et des améliorations de Siri. La nouvelle version pour iPhone, iPad et Mac n'est qu'un aperçu de ce à quoi ressemblera Apple Intelligence lorsqu'elle sera mise à la disposition du public plus tard dans l'année.

    iOS (anciennement iPhone OS) est un système d'exploitation mobile développé par Apple qui équipe de nombreux appareils mobiles de la société, y compris l'iPhone. Il s'agit du deuxième système d'exploitation mobile le plus installé au monde, après Android. L'iOS est basé sur macOS. Comme macOS, il inclut des composants du micro-noyau Mach et de FreeBSD. Des versions majeures d'iOS sont publiées chaque année.

    Apple a finalement lancé Apple Intelligence, son ensemble de nouvelles fonctionnalités d'intelligence artificielle, pour ses derniers iPhone, iPad et Mac aux États-Unis. Apple Intelligence est l'effort du fabricant de l'iPhone pour rester dans la course à l'IA générative en apportant une série de mises à jour à ses appareils, telles que l'amélioration de l'assistant vocal Siri, une fonction d'écriture et un générateur d'images, entre autres.

    Annoncée pour la première fois lors de la conférence WWDC en Juin 2024, Apple Intelligence a été lancée aux États-Unis dans le cadre de la version bêta pour développeurs d'iOS 18.1 hier (30 juillet). Elle est également disponible en version bêta développeur pour iPad OS 18.1 et macOS Sequoia 15.1. Elle n'est actuellement disponible que pour les développeurs Apple enregistrés qui paient un abonnement annuel.


    La dernière mise à jour n'est qu'un aperçu de ce à quoi Apple Intelligence ressemblera lorsqu'il sera mis à la disposition du public plus tard dans l'année. Elle comprendrait un nouveau look pour Siri ainsi que des améliorations de performance, une meilleure recherche de photos et des résumés générés par l'IA pour les courriels et les messages.

    La version bêta destinée aux développeurs n'inclut pas la génération d'images et d'emoji, le nettoyage automatisé des photos ou, notamment, l'intégration de ChatGPT d'OpenAI, comme cela avait été promis lors de l'annonce initiale de l'ensemble des fonctionnalités. L'attention tardive mais déterminée qu'Apple porte à l'IA lui a permis d'augmenter considérablement sa capitalisation boursière récemment, portant la valeur de l'entreprise à des niveaux record le mois dernier.

    Toutefois, la société a révélé qu'elle prévoyait de reporter le lancement de plusieurs fonctions d'IA sur le marché européen en raison de problèmes liés aux exigences de la loi sur les marchés numériques (Digital Markets Act), qui vise à réprimer les comportements anticoncurrentiels. Alors qu'Apple Intelligence devrait être lancé aux États-Unis dans le courant de l'année, son lancement dans l'UE n'est pas prévu avant 2025.

    « Je trouve très intéressant qu'ils disent "nous allons maintenant déployer l'IA là où nous ne sommes pas obligés de permettre la concurrence" », a déclaré Margrethe Vestager, responsable de la concurrence à l'UE, lorsqu'on lui a demandé ce qu'elle pensait de la décision de report d'Apple. « Je pense qu'il s'agit là de la déclaration la plus stupéfiante et la plus ouverte, car ils savent à 100 % qu'il s'agit d'un autre moyen d'entraver la concurrence là où ils ont déjà une position dominante. »

    Et vous ?

    Avez-vous pu tester ces nouvelles fonctionnalités, et si oui qu'en pensez-vous ?
    Pensez-vous que le report du lancement de ces fonctionnalités dans l'UE est crédible ou pertinent ?

    Voir aussi :

    L'IA d'Apple dans iOS 18 sera sur l'appareil et non sur le serveur, ce qui préservera la vie privée : ces fonctions d'IA fonctionneraient sans connexion Internet ni aucune forme de traitement basé sur le cloud

    DMA : Apple ne déploiera pas sa technologie d'IA sur le marché européen cette année en raison de craintes liées à la réglementation, mais assure travailler avec l'UE pour trouver une solution

    WWDC 2024 : Apple dévoile « Apple Intelligence », une suite de fonctionnalités IA pour Siri, iOS et macOS. ChatGPT est intégré dans les OS d'Apple et est traité comme un moteur de recherche par Siri

  5. #25
    Chroniqueur Actualités

    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Juin 2023
    Messages
    1 059
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 059
    Points : 18 745
    Points
    18 745
    Par défaut Tim Cook sait qu'Apple n'est pas le premier dans le domaine de l'IA, mais il veut être le meilleur
    Tim Cook sait qu'Apple n'est pas le premier dans le domaine de l'IA, mais il affirme qu'il s'agit d'être le meilleur
    Apple Intelligence suscite toutefois le scepticisme et est fortement controversée

    Tim Cook ne se laisse pas décontenancer par les détracteurs qui fustigent le retard impressionnant pris par Apple dans la nouvelle course à l'IA. Il a admis qu'Apple n'est pas le premier ni parmi la première horde d'entreprises engagées dans la course à l'IA. Toutefois, Tim Cook est convaincu qu'Apple deviendra le leader en matière d'IA et proposera à terme la meilleure expérience possible de la technologie. Pour atteindre cet objectif, Apple compte sur son nouvel ensemble de fonctionnalités « Apple Intelligence » qui sera lancé le 28 octobre 2024. En attendant, une analyse interne suggère qu'Apple a potentiellement deux ans de retard sur le reste de l'industrie.

    Tim Cook : Apple proposera la meilleure expérience en matière d'IA générative

    Apple a été pris de cours par l'avènement subit de l'IA générative. Cependant, contrairement à Google, qui a également surpris par cette technologie, le fabricant de l'iPhone n'a pas fait montre d'un acharnement immédiat visant à rattraper son retard sur OpenAI et les autres acteurs. En 2023, un rapport de Bloomberg en 2023 a souligné qu'Apple envisage de consacrer un milliard de dollars par an à cet effet, mais cela n'a pas été confirmé officiellement par la société.


    Apple a publié début 2024 OpenELM, un ensemble de petits modèles d'IA open source conçus pour fonctionner directement sur l'appareil et effectuer efficacement des tâches de génération de texte. Mais c'est presque deux ans après la sortie de ChatGPT qu'Apple a présenté son premier produit d'IA générative réellement destinée au grand public, Apple Intelligence. Là encore, Apple n'y va pas seul, car ces fonctionnalités d'IA reposent sur un partenariat avec OpenAI.

    Le PDG d'Apple, Tim Cook, a récemment été interrogé par le Wall Street Journal sur le retard d'Apple par rapport à ses rivaux. Tim Cook est conscient de cet état de choses, mais a répondu en précisant que « l'objectif d'Apple n'est pas de faire la course pour être le premier, mais de s'assurer que l'entreprise fournisse des produits significatifs et bien pensés ». Selon lui, bien qu'Apple ait été devancé dans la course à l'IA, ils deviendront bientôt le leader dans le domaine.

    « Nous n'avons pas été les premiers à faire de l'intelligence. Mais nous l'avons fait d'une manière que nous pensons être la meilleure pour le client. Si l'entreprise peut allier rapidité et qualité, elle le fera, mais sa priorité absolue sera toujours d'offrir la meilleure expérience possible », a déclaré Tim Cook. En outre, le PDG a déclaré que l'innovation prend du temps, expliquant qu'elle nécessite une itération minutieuse, mais également une attention aux moindres détails.

    Tim Cook a révélé qu'Apple travaille sur l'apprentissage automatique (machine learning - ML) depuis plus d'une décennie. Toutefois, Mark Gurman, gourou Apple de Bloomberg, a écrit dans sa dernière lettre d'information « Power On » qu'en interne, Apple estime que son IA a plus de deux ans de retard sur les leaders du secteur. Une étude interne aurait révélé que Siri était 25 % moins précis que ChatGPT. Et ChatGPT pourrait répondre à 30 % de questions en plus.

    Apple Intelligence : la stratégie adoptée par Apple va-t-elle se révéler payante ?

    Apple prévoit de lancer « Apple Intelligence » le 28 octobre, avec l'intégration de ChatGPT et d'autres fonctionnalités très attendues telles que Genmoji, Image Playground, Visual Intelligence et Image Wand. Apple Intelligence sera lancée sur les iPhone des utilisateurs (ou au moins sur tous les iPhone 16, iPhone 15 Pro et les derniers iPads, y compris les MacBook Air et Pro 2024, et le prochain iPad mini). La fonctionnalité sera restreinte par l'appareil de sécurité d'Apple.

    Nom : Capture d'écran 2024-10-24 202456.png
Affichages : 5315
Taille : 114,2 Ko

    Les utilisateurs devront donner leur autorisation avant d'utiliser l'une des fonctions d'IA générative annoncées. Les utilisateurs peuvent déjà accéder à la première instance d'Apple Intelligence via la version bêta d'iOS 18.1. En bref, les fonctions d'IA telles que les outils d'écriture permettent aux utilisateurs de surligner un texte pour le relire, le réécrire ou le résumer à l'aide d'une IA. L'IA peut également résumer les transcriptions de « Notes » ou d'appels téléphoniques.

    Quelle est l'utilité des résumés de texte ? Tim Cook affirme qu'il les utilise depuis peu pour ses courriels, ce qui lui permet de gagner du temps « ici et là ». Si cela vous permet à l'utilisateur de gagner quelques minutes par jour, cela pourrait lui faire gagner quelques heures ou quelques jours sur un mois. Quoi qu'il en soit, Tim Cook a déclaré : « cela a changé ma vie ». Toutefois, ses explications ne convainquent pas tout le monde ; elles sont même fortement critiquées.

    « Ayant utilisé l'IA à divers titres au cours des deux dernières années, j'ai un point de vue bien différent. Les résumés textuels peuvent parfois être utiles, mais en tant que journaliste, je trouve que les éléments importants se trouvent dans les détails. Je ne peux pas demander à l'IA de parcourir les fiches produits du prochain iPad que j'examinerai, au risque d'oublier quelque chose », a écrit un critique sur la fonction de synthèse d'Apple Intelligence plébiscitée par Apple.

    « Je peux demander à l'IA de trouver les caractéristiques d'un vieil iPhone pour une fonctionnalité sur laquelle je travaille, mais je dois toujours vérifier son travail, car l'IA peut se tromper, et l'on ne sait jamais vraiment d'où elle tire les données », a-t-il ajouté. Parmi les autres fonctions initiales d'Apple Intelligence, citons la fonction « notifications prioritaires », qui place les notifications les plus urgentes (comme les réunions) le plus près possible du haut de la page.

    Selon certains analystes, Apple n'a peut-être pas besoin d'être le premier. Le fait d'être en queue de peloton a ses avantages. L'entreprise peut en effet voir comment ses concurrents échouent et adapter son logiciel pour l'améliorer. Mais même dans ce cas, le déploiement initial d'Apple Intelligence aura un air de déjà-vu. Néanmoins, le PDG d'Apple a déclaré que l'IA rendrait le temps passé par les utilisateurs sur leur téléphone (iPhone) « profondément différent ».

    Apple n'est toujours pas capable d'expliquer pourquoi nous avons besoin de l'IA

    Apple joue la carte de la prudence en matière d'IA générative. Les critiques n'ont pas manqué de relever que lors de l'interview, Tim Cook a été présenté comme ayant une vision positive de la façon dont l'IA générative devrait être utilisée. Tim Cook a déclaré : « Apple n'est pas en train de courir pour sortir quelque chose en premier... Si vous parlez à 100 personnes, 100 d'entre elles vous le diront : il s'agit d'être le meilleur ». Toutefois, il suscite le scepticisme.

    Selon des critiques, l'interview n'examine pas son raisonnement de manière trop critique. Tim Cook est avant tout un vendeur. Malgré le discours du PDG, Apple a pris du retard dans le domaine de l'IA. Ce n'est qu'en décembre 2023 qu'elle a rendu publics ses premiers modèles d'IA. Un employé anonyme d'Apple a déclaré à Mark Gurman l'année dernière que le travail tardif d'Apple dans le domaine de l'IA est considéré comme « une grosse erreur en interne ».

    En outre, il est possible que nous n'ayons pas besoin d'une Apple Intelligence aussi performante que ChatGPT. L'idéal serait d'avoir « une IA agentique » qui fonctionne sur l'appareil. Elle doit être capable de transférer des informations d'une application à l'autre, par exemple en programmant un rappel de calendrier à partir d'un texte (ce dont Gemini de Google se rapproche déjà). Selon les analystes, « la première entreprise qui atteindra cet objectif aura trouvé l'or ».

    Selon Tim Cook, la possibilité de gagner du temps tout au long de la journée s'est traduite par un changement notable de sa productivité, allant même jusqu'à modifier certaines de ses habitudes. S'il reconnaît que son expérience personnelle n'est qu'un exemple parmi d'autres, Tim Cook est convaincu qu'Apple Intelligence offrira des avantages similaires à tout le monde. Il a déclaré que la fonctionnalité conduirait les utilisateurs vers une nouvelle courbe d'innovation.

    Il a toutefois précisé que l'impact ne sera pas immédiat, mais qu'il est certain qu'il se développera au fil du temps, améliorant la vie quotidienne de tous. Apple prévoit de lancer Apple Intelligence progressivement, avec des déploiements régionaux qui commenceront bientôt. La première version majeure devrait arriver le 28 octobre 2024, marquant le début de ce que Tim Cook estime être « un voyage transformateur pour l'entreprise et ses utilisateurs ».

    Alors que d'autres entreprises ont peut-être été plus rapides à commercialiser l'IA, Apple veut prouver qu'en fin de compte, l'excellence compte plus que la rapidité. Tim Cook a déclaré qu'Apple Intelligence modifiera la façon dont les utilisateurs utilisent leur téléphone. Toutefois, ses déclarations suscitent beaucoup de scepticisme. Certaines nouveautés d'Apple Intelligence ne donnent même pas l’impression d’être de véritables avancées en matière d’IA.

    L’IA est un outil puissant, mais son utilité dépend de la manière dont elle est mise en œuvre. Cependant, même Apple, avec toute sa renommée, ne peut pas encore expliquer pleinement pourquoi nous avons besoin de l’IA dans nos vies. Tout comme ses rivaux, Apple semble intégrer l'IA à ses produits en attendant de lui trouver une réelle utilité. Cela rappelle notamment l'approche de Microsoft avec Copilot et les nombreuses critiques que cela a suscitées.

    Source : interview de Tim Cook, PDG d'Apple

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous des déclarations de Tim Cook sur l'approche d'Apple en matière d'IA générative ?
    Tim Cook a déclaré que le plus important n'est pas d'être le premier, mais de proposer la meilleure expérience en matière d'IA. Qu'en pensez-vous ?
    Apple compte sur la suite de fonctionnalités Apple Intelligence pour proposer la meilleure expérience possible en matière d'IA générative. Cela lui permettra-t-il d'y parvenir ?

    Voir aussi

    Apple et l'IA : Tim Cook admet ne pas être sûr à 100 % de pouvoir éliminer les hallucinations de l'IA, ce qui met en lumière l'importance d'une utilisation prudente et critique de ces technologies

    Même Apple ne peut expliquer pourquoi nous avons besoin de l'IA dans nos vies, certaines des nouvelles fonctionnalités d'Apple Intelligence n'ont même pas l'air d'être de l'IA

    Apple signe un accord avec OpenAI pour intégrer ChatGPT dans iOS 18, tout en conservant Google comme option, l'accord avec OpenAI comportant des risques, Apple s'efforcerait de trouver un accord avec Google

  6. #26
    Communiqués de presse

    Femme Profil pro
    Traductrice Technique
    Inscrit en
    Juin 2023
    Messages
    1 885
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France

    Informations professionnelles :
    Activité : Traductrice Technique

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 885
    Points : 131 458
    Points
    131 458
    Par défaut Apple offre une prime d'un million de dollars à toute personne capable de pirater son nouveau système d'IA
    Apple offre une prime d'un million $ à toute personne capable de pirater son nouveau système d'IA, qui dispose d'un chiffrement de bout en bout et supprime immédiatement la demande une fois la tâche accomplie.

    Apple élargit l'Apple Security Bounty pour son Private Cloud Compute. Dans ce nouveau programme, Apple est prêt à offrir jusqu'à 1 million de dollars de prime à toute personne capable de pirater son nouveau système d'IA, Apple Intelligence. Dans le cadre de cette recherche, Apple offre un guide de sécurité, un environnement de recherche virtuel, ainsi que l'accès aux codes sources de certains composants.

    En juillet 2024, Apple a lancé quelques fonctionnalités d'IA dans la version bêta développeur d'iOS 18.1 : des outils d'écriture, comme la possibilité de réécrire, de relire ou de résumer un texte dans tout le système d'exploitation en première partie, et des améliorations de Siri. Puis en octobre, avec le lancement de l'iPad mini, Apple a confirmé les nouvelles fonctions d'IA qu'Apple Intelligence apportera.

    Apple est confiant sur la sécurité de l'Apple Intelligence, à tel point que le géant de la technologie a offert une prime d'un million de dollars à quiconque parviendrait à la pirater. La société a annoncé le 24 octobre qu'elle invitait "tous les chercheurs en sécurité - ou toute personne intéressée et techniquement curieuse" à effectuer "leur propre vérification indépendante de nos affirmations".

    Le public est donc mis au défi de tester la sécurité du "Private Cloud Compute", les serveurs qui recevront et traiteront les demandes des utilisateurs pour l'Apple Intelligence lorsque la tâche d'IA est trop complexe pour être traitée sur l'appareil. Selon Apple, ce système est doté d'un chiffrement de bout en bout et supprime immédiatement la demande de l'utilisateur une fois la tâche accomplie.

    Différents paiements sont prévus pour certaines découvertes, mais le million de dollars est attribué à toute personne capable d'exécuter un code sur le système sans être détectée et d'accéder à des parties sensibles. Apple Intelligence est un système d'intelligence artificielle intégré qui sera intégré à l'iPhone 16, 15 Pro et 15 Pro Max dans le courant du mois de novembre 2024. Ce produit alimenté par l'IA a été dévoilé en septembre, révélant de nouvelles fonctionnalités pour le tri des messages, l'écriture générative et la création d'emojis uniques. Mais seuls les détenteurs des smartphones haut de gamme iPhone 15 et du nouvel iPhone 16 auront accès à cette plateforme très attendue.

    Tim Cook, le PDG d'Apple, a déclaré qu'il s'agissait d'un "nouveau chapitre de l'innovation Apple". "Cela signifie pour vous, en tant que client, que vous pouvez vous attendre à ce que l'IA soit davantage intégrée à vos applications et appareils à partir de maintenant." Apple Intelligence se concentre principalement sur les modèles d'IA dits "génératifs", qui permettent aux utilisateurs de créer du texte ou des images à partir d'invites.


    Apple veut s'assurer que le système est sécurisé

    "Pour encourager davantage vos recherches sur Private Cloud Compute, nous élargissons Apple Security Bounty pour inclure des récompenses pour les vulnérabilités qui démontrent une compromission des garanties fondamentales de sécurité et de confidentialité de PCC", a partagé l'entreprise dans l'annonce. Jusqu'à présent, Apple n'autorisait que les auditeurs tiers à pénétrer dans son Private Cloud Compute, mais désormais, tout le monde peut s'y essayer.

    Les personnes qui relèvent le défi ont également accès à un guide de sécurité et à un environnement virtuel, qui permettent d'analyser Private Cloud Compute à l'intérieur de macOS Sequoia 15.1 developer preview. Cela signifie que les participants auront besoin d'un Mac doté d'une puce de série M et d'au moins 16 Go de RAM pour y accéder.

    Apple versera 100 000 dollars à toute personne capable d'exécuter du code "non attesté", c'est-à-dire des requêtes de code non vérifiées par l'entreprise. Quiconque parviendra à accéder aux données de requête d'un utilisateur ou à d'autres informations sensibles le concernant en dehors de la "limite de confiance" (une limite où les données ou l'exécution d'un programme changent de niveau de "confiance") pourra gagner jusqu'à 250 000 dollars.

    Et si quelqu'un parvient à "accéder aux données de requête d'un utilisateur ou à d'autres informations sensibles concernant l'utilisateur en dehors de la limite de confiance", il recevra 150 000 dollars. Une récompense de 50 000 dollars est prévue si quelqu'un parvient à pirater le système pour exposer des données de manière accidentelle ou inattendue.

    "Nous pensons que Private Cloud Compute est l'architecture de sécurité la plus avancée jamais déployée pour le calcul d'IA dans le cloud à l'échelle, et nous sommes impatients de travailler avec la communauté des chercheurs pour renforcer la confiance dans le système et le rendre encore plus sûr et privé au fil du temps", a déclaré Apple.

    La plupart des utilisateurs d'iOS devront attendre pour bénéficier d'Apple Intelligence. Mais il y aura une liste d'attente dès le lancement en raison de la forte demande potentielle.

    La version de lancement d'Apple Intelligence comprendra des outils d'écriture pour la relecture et la réécriture, des réponses intelligentes qui répondent rapidement aux messages, des résumés de notifications, le nettoyage des photos, une première refonte de Siri, et bien d'autres choses encore. Mais certaines fonctionnalités, notamment Genmoji, Image Playground, l'intégration de ChatGPT et Visual Intelligence, devraient arriver dans le cadre d'iOS 18.2, qui devrait entrer en phase bêta d'ici un mois environ.

    D'autres arriveront encore plus tard. Siri, par exemple, ne sera pas disponible avant 2025. En outre, la version de novembre n'est compatible qu'avec l'anglais américain, ce qui signifie que les pays autres que les États-Unis devront attendre décembre pour pouvoir utiliser Apple Intelligence dans leur langue.

    Recherche de sécurité sur Private Cloud Compute

    Nom : 1.jpg
Affichages : 5203
Taille : 50,6 Ko

    Voici l'annonce d'Apple concernant Private Cloud Compute :

    Private Cloud Compute (PCC) répond aux demandes de calcul intensif pour Apple Intelligence tout en offrant des protections révolutionnaires en matière de confidentialité et de sécurité - en transposant dans le cloud notre modèle de sécurité des appareils à la pointe de l'industrie. Dans notre précédent billet présentant Private Cloud Compute, nous expliquions que pour renforcer la confiance du public dans le système, nous prendrions une mesure extraordinaire en permettant aux chercheurs en sécurité et en protection de la vie privée d'inspecter et de vérifier les promesses de sécurité et de protection de la vie privée de bout en bout de PCC. Dans les semaines qui ont suivi l'annonce d'Apple Intelligence et de PCC, nous avons fourni à des auditeurs tiers et à des chercheurs en sécurité triés sur le volet un accès anticipé aux ressources que nous avons créées pour permettre cette inspection, notamment l'environnement de recherche virtuel (ERV) de PCC.

    Aujourd'hui, nous mettons ces ressources à la disposition du public afin d'inviter tous les chercheurs en sécurité et en protection de la vie privée - ou toute personne intéressée et techniquement curieuse - à en apprendre davantage sur la PCC et à effectuer leur propre vérification indépendante de nos affirmations. Nous sommes heureux d'annoncer que nous étendons le programme Apple Security Bounty à la PCC, avec des récompenses significatives pour les signalements de problèmes liés à nos affirmations en matière de sécurité ou de respect de la vie privée.
    Voici les outils qu'Apple offre pour cette recherche :

    • Pour comprendre l'architecture de PCC, Apple a publié le Private Cloud Compute Security Guide. Ce guide comprend des détails techniques sur les composants de PCC et sur la façon dont ils fonctionnent ensemble pour offrir un niveau de confidentialité pour le traitement de l'IA dans le cloud. Le guide aborde des sujets tels que : la manière dont les attestations PCC reposent sur une base immuable de fonctionnalités mises en œuvre dans le matériel ; la manière dont les demandes PCC sont authentifiées et acheminées pour ne pas être ciblées ; la manière dont Apple garantit techniquement cette recherche dans les centres de données ; et la manière dont les propriétés de confidentialité et de sécurité de PCC résistent à divers scénarios d'attaque.

    • Apple a également créé un environnement de recherche virtuel (ERV) pour une plateforme Apple. L'ERV est un ensemble d'outils qui permet d'effectuer votre propre analyse de sécurité de Private Cloud Compute directement depuis votre Mac. Cet environnement permettrait d'aller bien au-delà de la simple compréhension des caractéristiques de sécurité de la plateforme. "Vous pouvez confirmer que Private Cloud Compute préserve effectivement la vie privée des utilisateurs de la manière que nous décrivons", selon Apple.

      L'ERV exécuterait le logiciel du nœud PCC dans une machine virtuelle avec seulement quelques modifications mineures. Le logiciel de l'espace utilisateur fonctionne de la même manière que le nœud PCC, le processus de démarrage et le noyau étant adaptés à la virtualisation. L'ERV comprend un processeur virtuel Secure Enclave (SEP), ce qui permet d'effectuer des recherches sur la sécurité dans ce composant. Il utilise également le support macOS intégré pour les graphiques paravirtualisés afin de permettre l'inférence.

      Ainsi, vous pourrez utiliser les outils de l'ERV pour :
      • lister et inspecter les versions logicielles de la PCC
      • Vérifier la cohérence du journal de transparence
      • Télécharger les binaires correspondant à chaque version
      • Démarrer une version dans un environnement virtualisé
      • Effectuer des déductions à partir de modèles de démonstration
      • Modifier et déboguer le logiciel PCC pour permettre une investigation plus approfondie.

      L'ERV est disponible dans la dernière version de macOS Sequoia 15.1 Developer Preview et nécessite un Mac avec du silicium Apple et au moins 16 Go de mémoire unifiée.

      Nom : 2.jpg
Affichages : 1398
Taille : 73,2 Ko
    • Apple met également à disposition le code source de certains composants clés de PCC qui contribuent à la mise en œuvre de ses exigences en matière de sécurité et de confidentialité. Cette source est fournie dans le cadre d'un accord de licence à usage limité pour permettre d'effectuer des analyses plus approfondies de PCC.

      Voici les projets pour lesquels Apple publie le code source :

      • Le projet CloudAttestation, qui est responsable de la construction et de la validation des attestations du nœud PCC.
      • Le projet Thimble, qui comprend le daemon privatecloudcomputed qui s'exécute sur l'appareil d'un utilisateur et utilise CloudAttestation pour renforcer la transparence vérifiable.
      • Le daemon splunkloggingd, qui filtre les journaux pouvant être émis par un nœud PCC afin de se protéger contre la divulgation accidentelle de données.
      • Le projet srd_tools, qui contient l'outillage de l'ERV et que vous pouvez utiliser pour comprendre comment l'ERV permet d'exécuter le code PCC.

      Le code source de la PCC est disponible dans le projet apple/security-pcc sur GitHub.


    Concernant le programme Apple Security Bounty pour Private Cloud Compute, voici l'annonce d'Apple :

    Afin d'encourager davantage vos recherches sur le Private Cloud Compute, nous élargissons l'Apple Security Bounty pour inclure des récompenses pour les vulnérabilités qui démontrent une compromission des garanties fondamentales de sécurité et de confidentialité de PCC.

    Nos nouvelles catégories de primes PCC sont alignées sur les menaces les plus critiques que nous décrivons dans le Guide de sécurité :

    • Divulgation accidentelle de données: vulnérabilités conduisant à l'exposition involontaire de données en raison de défauts de configuration ou de problèmes de conception du système.
    • Compromission externe à partir de demandes d'utilisateurs: vulnérabilités permettant à des acteurs externes d'exploiter des demandes d'utilisateurs pour obtenir un accès non autorisé à la PCC.
    • Accès physique ou interne: vulnérabilités où l'accès aux interfaces internes permet de compromettre le système.

    Étant donné que PCC étend la sécurité et la confidentialité de pointe des appareils Apple dans le cloud, les récompenses que nous offrons sont comparables à celles d'iOS. Nous accordons les montants maximums pour les vulnérabilités qui compromettent les données des utilisateurs et les données des requêtes d'inférence en dehors de la limite de confiance de PCC.

    Nom : 3.jpg
Affichages : 1403
Taille : 72,5 Ko

    Parce que nous sommes profondément préoccupés par toute compromission de la vie privée ou de la sécurité des utilisateurs, nous prendrons en considération tout problème de sécurité ayant un impact significatif sur la PCC pour une récompense Apple Security Bounty, même s'il ne correspond pas à une catégorie publiée. Nous évaluerons chaque rapport en fonction de la qualité de ce qui est présenté, de la preuve de ce qui peut être exploité et de l'impact sur les utilisateurs.
    Conclusion

    Cette nouvelle annonce confirme les propos de Tim Cook. Une analyse interne avait suggéré qu'Apple a potentiellement deux ans de retard sur le reste de l'industrie de l'IA. Tim Cook a admis qu'Apple n'est pas le premier ni parmi la première horde d'entreprises engagées dans la course à l'IA. Toutefois, il est convaincu qu'Apple deviendra le leader en matière d'IA et proposera à terme la meilleure expérience possible de la technologie. Pour atteindre cet objectif, Apple compte sur son nouvel ensemble de fonctionnalités "Apple Intelligence" qui serait lancé le 28 octobre 2024.

    Lors de l'annonce de l'Apple Security Bounty pour le Private Cloud Compute, Apple conclut :

    Nous avons conçu Private Cloud Compute dans le cadre d'Apple Intelligence pour faire un pas en avant extraordinaire en matière de confidentialité dans l'IA. Il s'agit notamment d'offrir une transparence vérifiable, une propriété unique qui le distingue des autres approches d'IA basées sur des serveurs. S'appuyant sur notre expérience avec l'Apple Security Research Device Program, l'outil et la documentation que nous avons publiés aujourd'hui facilitent plus que jamais l'étude et la vérification des fonctions essentielles de sécurité et de confidentialité de PCC. Nous espérons que vous approfondirez la conception de PCC grâce à notre guide de sécurité, que vous explorerez vous-même le code grâce à l'environnement de recherche virtuel et que vous signalerez les problèmes que vous aurez découverts par le biais d'Apple Security Bounty. Nous pensons que Private Cloud Compute est l'architecture de sécurité la plus avancée jamais déployée pour le calcul d'IA dans le cloud à l'échelle, et nous sommes impatients de travailler avec la communauté des chercheurs pour renforcer la confiance dans le système et le rendre encore plus sûr et privé au fil du temps.

    Source : Apple

    Et vous ?

    Pensez-vous que cette annonce est crédible ou pertinente ?
    Quel est votre avis sur le sujet ?

    Voir aussi :

    Apple aurait développé une technique qui permet d'exécuter les modèles d'IA localement sur l'iPhone plutôt que sur le cloud, selon une étude

    Même Apple ne peut expliquer pourquoi nous avons besoin de l'IA dans nos vies. Certaines des nouvelles fonctionnalités d'Apple Intelligence n'ont même pas l'air d'être de l'IA

    Rapport scientifique international sur la sécurité de l'intelligence artificielle avancée : Un rapport actualisé et fondé sur des données probantes concernant la sécurité de l'IA avancée
    Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  7. #27
    Chroniqueur Actualités

    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Juin 2023
    Messages
    1 059
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 059
    Points : 18 745
    Points
    18 745
    Par défaut Apple Intelligence critiquée pour sa tendance à partager de faux titres d'actualités et ses erreurs répétées
    L'IA d'Apple prouve qu'elle est tout sauf intelligente : les faux titres d'actualités qu'elle génère et ses erreurs suscitent des moqueries et des plaintes
    la société est invitée à retirer Apple Intelligence

    Apple a lancé en grande pompe l'ensemble de fonctionnalités d'IA « Apple Intelligence » pour ses derniers appareils iOS et macOS en octobre 2024. Mais Apple Intelligence est déjà confrontée à une crise de confiance après que plusieurs tentatives de résumer les titres de l'actualité ont donné des résultats inexacts et parfois bizarres. Apple tente en effet de condenser les notifications en bribes digestes, mais au lieu de résumer avec précision, l'IA se laisse parfois aller à une écriture créative. Apple Intelligence, qui est une fonction tant vantée par le fabricant de l'iPhone, fait l'objet de moquerie et certains experts craignent que l'expérience ne se solde par un bide.

    Apple Intelligence partage allègrement de faux titres d'actualités aux utilisateurs

    Apple Intelligence est une suite d'outils d'IA développée par Apple, intégrée directement dans les appareils tels que l'iPhone, l'iPad et le Mac. Annoncée en juin 2024 lors de l'événement WWDC d'Apple, Apple Intelligence vise à améliorer l'expérience utilisateur en facilitant l'accomplissement de diverses tâches, tout en établissant de nouvelles normes en matière de confidentialité dans le domaine de l'IA. Apple a vanté sa fonction comme « la meilleure de l'industrie ».

    Nom : 2.png
Affichages : 8551
Taille : 276,8 Ko

    Mais Apple Intelligence commence à avoir mauvaise presse quelques mois seulement après son lancement officiel. La fonction a notamment tendance à partager allègrement des intox. La situation est devenue suffisamment grave pour que les principaux organes de presse se plaignent de la manière dont les titres induisent les lecteurs en erreur et demandent à Apple de corriger ou de supprimer sa fonction avant qu'elle ne les mette encore plus dans l'embarras.

    Il y a eu quelques exemples particulièrement marquants depuis qu'Apple a lancé cette fonctionnalité. En décembre 2024, Apple Intelligence a rédigé un titre pour un article de la BBC sur Luigi Mangione, le meurtrier présumé du PDG de UnitedHealthcare, Brian Thompson, affirmant que Luigi Mangione s'était tiré une balle. Ce détail a été entièrement inventé par Apple Intelligence. La BBC n'était pas ravie d'être blâmée pour quelque chose qu'elle n'avait pas écrit.

    Luigi Mangione est vivant et détenu dans une prison de Brooklyn. De fausses alertes ont de nouveau été émises récemment, lorsque la fonction d'IA d'Apple a résumé des actualités de la BBC pour affirmer à tort que le tennisman Rafael Nadal avait révélé son homosexualité. Les résumés générés par Apple Intelligence ont également affirmé que Luke Littler avait remporté le Championnat du monde de fléchettes PDC quelques heures avant le début de la compétition.

    « Ces résumés d'Apple ne reflètent pas - et dans certains cas contredisent complètement - le contenu original de la BBC. Il est essentiel qu'Apple s'attaque d'urgence à ces problèmes, car l'exactitude de nos informations est essentielle au maintien de la confiance », a déclaré la BBC dans un communiqué.

    La BBC n'est pas le seul éditeur à voir ses alertes dénaturées par Apple Intelligence. En novembre 2024, un journaliste de ProPublica a signalé un résumé inexact généré par Apple Intelligence. L'IA d'Apple avait affirmé à tort que le Premier ministre israélien Benjamin Netanyahu avait été arrêté.

    Apple confronté à de nombreux appels pour supprimer sa fonction controversée

    Selon de nombreux critiques, dont Dave Lee, le chroniqueur technologique américain de Bloomberg Opinion, Apple Intelligence n'est pas prête pour le monde réel. Les plaintes et les moqueries se multiplient. Les erreurs répétées de l'IA d'Apple ont incité l'organisation à but non lucratif Reporters sans frontières à demander à Apple d'agir de manière responsable et de supprimer cette fonctionnalité. Apple a annoncé qu'il travaille sur une mise à jour de la fonctionnalité.

    Nom : 1.png
Affichages : 2320
Taille : 213,0 Ko

    Pendant des semaines, Apple a refusé de répondre publiquement aux plaintes de la BBC selon lesquelles les erreurs de son IA nuisent à la confiance dans ses reportages. Lundi, une déclaration a finalement été publiée. Apple a promis de mettre à jour son IA dans les « prochaines semaines » afin de clarifier les cas où son logiciel a rédigé des résumés. L'entreprise n'a pas reconnu ses erreurs, si ce n'est qu'elle a indiqué qu'elle procède à des « améliorations continues ».

    Ces erreurs peuvent sembler comiques ou sans conséquence, notamment parce qu'on ne sait pas combien de personnes les voient ni à quelle fréquence. Le résumé se fait sur l'appareil, il n'y a donc aucun moyen de savoir qui voit quoi ; différents utilisateurs verront différents textes en fonction de divers facteurs qui leur sont propres et qui sont propres à leur téléphone. Ce qui, selon les experts, rend plus difficile la lutte contre la désinformation engendrée par l'outil.

    Outre les organes de presse, les utilisateurs aussi se plaignent. L'expérience partagée par les utilisateurs d'Apple en ce qui concerne l'IA tant vantée par l'entreprise est qu'elle est, en grande partie, une source d'ennui. Non seulement les utilisateurs sont toujours inondés de notifications, mais ils sont désormais inondés de notifications erronées. Ce n'est pas un progrès, même si, comme l'a dit Apple dans sa réponse, « le contenu original est à portée de main ».

    Les autres erreurs quotidiennes commises dans les résumés d'Apple sont tout aussi ennuyeuses pour les utilisateurs que les résumés d'actualités bâclés. Un exemple viral montre comment le texte d'une mère disant qu'une « randonnée a failli me tuer » a été raccourci pour dire « tentative de suicide, mais rétablie ».

    Apple accusé d'avoir diffusé dans la nature une fonctionnalité bêta dangereuse

    Apple risque désormais de voir les utilisateurs désactiver la fonctionnalité Apple Intelligence de leur appareil et perdre confiance pendant un moment. Apple Intelligence a été déployée pour les propriétaires d'iPhone 16, 15 Pro et 15 Pro Max, ainsi que sur certains iPad et Mac. Les critiques reprochent à Apple d'avoir lancé dans la nature une fonctionnalité en version bâta qui augmente fortement les risques de désinformation et souffre de nombreux biais et limites.

    Nom : Capture d'écran 2025-01-08 194223.png
Affichages : 2316
Taille : 165,4 Ko

    « Apple Intelligence est en version bêta et nous apportons continuellement des améliorations grâce aux commentaires des utilisateurs. Une mise à jour du logiciel dans les semaines à venir permettra de mieux préciser quand le texte affiché est un résumé fourni par Apple Intelligence. Nous encourageons les utilisateurs à nous faire part de leurs inquiétudes s'ils voient un résumé de notification inattendu », a déclaré Apple dans un communiqué transmis à la BBC.

    Apple a déclaré qu'il ne ferait pas d'autres commentaires que ceux fournis à la BBC. Mais la National Union of Journalists (NUJ), l'un des plus grands syndicats de journalistes monde, a déclaré qu'une mise à jour du système n'allait pas assez loin et a appelé à la suppression totale de la fonction d'IA :

    Citation Envoyé par Laura Davison, secrétaire générale de la NUJ

    Apple doit agir rapidement en supprimant Apple Intelligence pour s'assurer qu'elle ne contribue pas à la désinformation déjà répandue et qu'elle ne porte pas préjudice au journalisme en ligne.

    À une époque où l'accès à des informations exactes n'a jamais été aussi important, le public ne doit pas être placé dans une position où il doit remettre en question l'exactitude des informations qu'il reçoit.
    Reporters sans frontières a déclaré que le fait d'étiqueter le contenu comme étant généré par l'IA ne règle pas le problème, mais transférait plutôt la responsabilité aux utilisateurs, qui seraient censés vérifier si les informations étaient vraies ou non. « Nous nous félicitons qu'Apple reconnaisse que son offre en matière d'IA a besoin d'être améliorée », a déclaré Vincent Berthier, responsable du bureau de la technologie et du journalisme de l'organisation.


    « Mais la mise à jour proposée semble admettre implicitement qu'il n'est pas possible de rendre cette fonctionnalité plus fiable. Nous réitérons donc notre appel à Apple pour qu'elle la supprime. Les IA sont des machines à probabilités, et les faits ne peuvent pas être décidés par un coup de dé », a-t-il ajouté.

    « RSF appelle Apple à agir de manière responsable en supprimant cette fonctionnalité. La production automatisée de fausses informations attribuées à un média porte atteinte à la crédibilité de ce dernier et met en péril le droit du public à une information fiable sur l'actualité », a conclu Vincent Berthier.

    Sources : National Union of Journalists (NUJ), Reporters sans frontières

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous de la fonctionnalité Apple Intelligence ? Quid des critiques à son égard ?
    Utilisez-vous cette fonctionnalité sur votre appareil Apple ? Si oui, partagez votre expérience.

    Voir aussi

    Tim Cook sait qu'Apple n'est pas le premier dans le domaine de l'IA, mais il affirme qu'il s'agit d'être le meilleur, Apple Intelligence suscite toutefois le scepticisme et est fortement controversée

    Les fonctions d'IA ne sont pas à la hauteur : 73 % des utilisateurs d'iPhone et 87 % de ceux de Samsung déclarent qu'elles n'ajoutent que peu ou pas de valeur ajoutée, d'après une récente enquête de SellCell

    Apple présente l'iPad mini conçu pour l'Apple Intelligence, avec de nouvelles fonctions d'IA visant à stimuler la productivité et à simplifier les flux de travail

  8. #28
    Membre expert Avatar de OrthodoxWindows
    Homme Profil pro
    Étudiant
    Inscrit en
    Novembre 2021
    Messages
    1 253
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Drôme (Rhône Alpes)

    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : Novembre 2021
    Messages : 1 253
    Points : 3 395
    Points
    3 395
    Par défaut
    Au moins c'est drôle, contrairement à ce genre d'incident sur des voitures "autonomes".

  9. #29
    Nouveau Candidat au Club
    Homme Profil pro
    Technicien
    Inscrit en
    Janvier 2025
    Messages
    25
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France, Ille et Vilaine (Bretagne)

    Informations professionnelles :
    Activité : Technicien
    Secteur : High Tech - Matériel informatique

    Informations forums :
    Inscription : Janvier 2025
    Messages : 25
    Points : 0
    Points
    0
    Par défaut
    C'est simplement un énorme projet a peaufiner et debugger

    C'est 'alpha' publique

  10. #30
    Membre actif Avatar de rsuinux
    Homme Profil pro
    Infirmier Formateur pour logiciel de Dossiers de Soins Informatisés
    Inscrit en
    Août 2007
    Messages
    149
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haute Vienne (Limousin)

    Informations professionnelles :
    Activité : Infirmier Formateur pour logiciel de Dossiers de Soins Informatisés
    Secteur : Santé

    Informations forums :
    Inscription : Août 2007
    Messages : 149
    Points : 212
    Points
    212
    Par défaut
    Je ne comprend pas où est le problème.
    Puisque c'est de toute façon le comportement de la droite américaine, de dire n'importe quoi.
    Apple se contente de suivre le mouvement.
    Si tu ne sais pas: demande, si tu sais, partage.

  11. #31
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    Mars 2013
    Messages
    9 161
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : Mars 2013
    Messages : 9 161
    Points : 211 123
    Points
    211 123
    Par défaut Apple suspend ses notifications générées par IA après la diffusion de faux titres
    Apple suspend ses notifications générées par IA après la diffusion de faux titres.
    Deux ans après le lancement de ChatGPT, les hallucinations liées à l'IA sont toujours aussi répandues

    Apple a temporairement interrompu une fonction de résumé d'actualités d'Apple Intelligence, son service phare d'intelligence artificielle (IA), après plusieurs cas où des résumés d'actualités erronés ont été présentés aux utilisateurs. La décision d'Apple de suspendre le service a été prise à la suite d'une plainte déposée par la BBC. Le service d'Apple avait généré un résumé d'actualité portant le logo de la BBC et indiquant à tort que Luigi Mangione (l'homme accusé d'avoir tué le PDG de UnitedHealthcare, Brian Thompson) s'était suicidé. Ce n'est pas la seule fausse alerte générée par l'IA d'Apple à porter le logo de la BBC. Parmi les autres, citons une information selon laquelle le joueur de tennis Rafael Nadal avait révélé son homosexualité, et une autre annonçant le nom du champion de la finale mondiale de fléchettes PDC avant que le match n'ait eu lieu.

    Contexte

    Apple a décidé de suspendre son système de notifications générées par intelligence artificielle pour son service Apple News. Cette décision survient après la diffusion de faux titres ayant suscité des controverses, mettant en lumière les défis complexes de l'intégration de l'IA dans les processus éditoriaux.

    Un porte-parole d'Apple a déclaré « Avec les dernières versions bêta des logiciels iOS 18.3, iPadOS 18.3 et macOS Sequoia 15.3, les résumés de notification pour la catégorie Actualités et divertissement seront temporairement indisponibles ». Et de préciser : « Nous travaillons sur des améliorations et les rendrons disponibles lors d'une prochaine mise à jour logicielle ». Apple a également confirmé que les résumés générés par l'IA feraient l'objet d'un changement de format, toutes les notifications d'applications résumées par l'IA apparaissant en italique.

    Des titres d'autres organismes de presse ont également été résumés de manière erronée par l'IA d'Apple, notamment un article du New York Times que l'IA a résumé en disant que le premier ministre d'Israël, Benjamin Netanyahu, avait été arrêté.

    Une erreur coûteuse pour l'image d'Apple

    Ce rare revirement de la part du fabricant de l'iPhone concernant sa fonction Apple Intelligence, fortement commercialisée, intervient après que la technologie a produit des résumés trompeurs ou carrément faux de titres d'actualité, qui semblent presque identiques aux notifications push habituelles.

    Jeudi, Apple a mis à la disposition des développeurs une mise à jour logicielle bêta qui désactive la fonction d'intelligence artificielle pour les titres d'actualité et de divertissement, qu'elle prévoit de déployer ultérieurement pour tous les utilisateurs pendant qu'elle travaille à l'amélioration de la fonction d'intelligence artificielle. La société prévoit de réactiver la fonction dans une prochaine mise à jour.

    Dans le cadre de cette mise à jour, l'entreprise a indiqué que les résumés d'Apple Intelligence, auxquels les utilisateurs doivent adhérer, souligneront plus explicitement que les informations ont été produites par l'IA, en précisant que celle-ci peut parfois produire des résultats inexacts.

    L'Apple Intelligence a été introduite sur les iPhone, les iPad et les Mac en décembre, promettant toute une série de nouvelles fonctionnalités. L'une d'entre elles consistait à résumer les longues notifications sur l'iPhone et à condenser plusieurs notifications en une seule.

    La fonction a notamment tendance à partager allègrement des intox. La situation est devenue suffisamment grave pour que les principaux organes de presse se plaignent de la manière dont les titres induisent les lecteurs en erreur et demandent à Apple de corriger ou de supprimer sa fonction avant qu'elle ne les mette encore plus dans l'embarras.

    Nom : BBC.png
Affichages : 3846
Taille : 230,7 Ko

    Des erreurs qui suscitent la colère

    Le mois dernier, la BBC s'est plainte de cette technologie auprès d'Apple, l'exhortant à supprimer la fonction après qu'elle a créé de faux titres affirmant que Luigi Mangione, accusé de meurtre dans la mort du PDG de UnitedHealthcare, s'était suicidé. À une autre occasion, trois articles du New York Times ont également été résumés dans une seule notification push, affirmant à tort que le Premier ministre israélien Benjamin Netanyahu avait été arrêté.

    Un porte-parole de la BBC a déclaré en décembre qu'il était « essentiel qu'Apple s'attaque d'urgence à ces problèmes, car l'exactitude de nos informations est essentielle pour maintenir la confiance ». Et de préciser que « Ces résumés d'Apple par l'IA ne reflètent pas - et dans certains cas contredisent complètement - le contenu original de la BBC ».

    Mercredi, la fonction alimentée par l'IA a une fois de plus résumé de manière incorrecte une notification du Washington Post, indiquant faussement que « Pete Hegseth a été licencié ; les tarifs douaniers de Trump ont un impact sur l'inflation ; Pam Bondi et Marco Rubio ont été confirmés. » Rien de tout cela n'est vrai.

    « Il s'agit de ma diatribe périodique sur le fait que l'intelligence d'Apple est si mauvaise qu'aujourd'hui, elle s'est trompée dans tous les faits en résumant les alertes du Washington Post », a écrit Geoffrey Fowler, chroniqueur technique du journal. « Il est tout à fait irresponsable qu'Apple ne désactive pas les résumés pour les applications d'actualités jusqu'à ce qu'elle s'améliore un peu dans le domaine de l'intelligence artificielle ».

    Les groupes de défense de la liberté de la presse ont également souligné les dangers que représentent les résumés pour les consommateurs à la recherche d'informations fiables. Reporters sans frontières les qualifie de « danger pour le droit du public à des informations fiables sur l'actualité » et l'Union nationale des journalistes, l'un des plus grands syndicats de journalistes au monde, souligne que « le public ne doit pas être placé dans une position où il doit remettre en question l'exactitude des informations qu'il reçoit ». Tous deux ont demandé la suppression des résumés alimentés par l'IA.

    Vincent Berthier, Responsable du bureau Technologie et Journalisme de Reporters Sans Frontières, a déclaré :

    « Les IA sont des machines à probabilités, et les faits ne peuvent pas être décidés par un coup de dé. RSF demande à Apple d'agir de manière responsable en supprimant cette fonctionnalité. La production automatisée de fausses informations attribuées à un média porte atteinte à la crédibilité de ce dernier et met en péril le droit du public à une information fiable sur l'actualité. La loi européenne sur l'IA, qui est pourtant la législation la plus avancée au monde dans ce domaine, n'a pas classé les IA génératrices d'informations parmi les systèmes à haut risque, ce qui laisse un vide juridique important. Ce vide doit être comblé immédiatement ».

    Laura Davison, secrétaire générale de l'Union nationale des journalistes, a déclaré :

    « Apple doit agir rapidement en supprimant Apple Intelligence pour s'assurer qu'il ne joue aucun rôle dans la désinformation déjà répandue et qu'il ne porte pas préjudice au journalisme en ligne. À une époque où l'accès à des informations exactes n'a jamais été aussi important, le public ne doit pas être placé dans une position où il doit remettre en question l'exactitude des informations qu'il reçoit.

    « L'intégrité éditoriale est cruciale pour notre radiodiffuseur de service public et les résumés générés par l'IA qui attribuent faussement des informations risquent de nuire à la réputation des journalistes qui travaillent dans le respect de l'éthique. Nous continuerons à nous engager auprès de la BBC pour soutenir ses préoccupations concernant la fonctionnalité d'Apple, tout en demandant clairement à Apple de prendre des mesures allant au-delà d'une mise à jour d'Apple Intelligence ».

    Nom : nyt.png
Affichages : 437
Taille : 169,8 Ko

    Deux ans après le lancement de ChatGPT, les hallucinations liées à l'IA sont toujours aussi répandues

    Ce n'est pas la première fois qu'un développeur est confronté à la fabrication d'informations par l'IA d'Apple, des modèles populaires comme ChatGPT produisant souvent des « hallucinations » confiantes.

    Suresh Venkatasubramanian, professeur à l'université Brown et coauteur du projet de charte des droits de l'IA de la Maison-Blanche, a déclaré que les modèles à langage étendu, la technologie qui sous-tend les outils d'IA, sont entraînés à répondre aux données en utilisant « une réponse plausible » aux questions posées.

    « En ce sens, toute réponse à consonance plausible, qu'elle soit exacte, factuelle, inventée ou non, est une réponse raisonnable, et c'est ce qu'elle produit », a déclaré Venkatasubramanian. « Il n'y a pas de connaissance de la vérité ».

    Deux ans après le lancement de ChatGPT, les hallucinations liées à l'IA sont toujours aussi répandues. Une étude réalisée en juillet 2024 par Cornell, l'université de Washington et l'université de Waterloo a révélé que les modèles d'IA les plus performants ne sont toujours pas dignes de confiance en raison de leur propension à inventer des informations.

    Une réflexion nécessaire sur les limites de l’automatisation

    L'incident met en évidence un problème plus large concernant l'utilisation de l'IA dans les médias. Si ces technologies offrent un potentiel énorme pour automatiser et accélérer le traitement de grandes quantités d’informations, elles peuvent également introduire des erreurs si elles ne sont pas supervisées correctement. Dans ce cas, l’IA utilisée par Apple semble avoir mal interprété ou décontextualisé certains contenus, entraînant des erreurs embarrassantes.

    La mésaventure d’Apple soulève des questions importantes sur le rôle de l’IA dans la sélection et la diffusion des informations. Peut-on réellement confier des tâches aussi sensibles à une machine, même entraînée sur des ensembles de données volumineux ? Quels mécanismes de contrôle humain doivent être mis en place pour garantir l’intégrité de l’information ?

    Des géants de la technologie comme Google et Microsoft investissent également dans des solutions d’IA pour les médias. Cependant, ces incidents montrent qu’une approche purement automatisée, sans intervention humaine, est encore loin d’être fiable.

    Le futur des notifications d’Apple News

    Apple a indiqué qu’elle travaillerait à l’amélioration de son système avant de le réintroduire. L’entreprise prévoit de renforcer la supervision humaine et d’ajuster les algorithmes pour éviter de futures erreurs. Cette situation servira sans doute de leçon non seulement pour Apple, mais aussi pour d'autres entreprises explorant l'utilisation de l'IA dans des domaines critiques.

    « Nous sommes heureux qu'Apple ait pris en compte nos préoccupations et suspende la fonction de résumé pour les actualités », a déclaré un porte-parole de la BBC.

    « Nous sommes impatients de travailler avec eux de manière constructive sur les prochaines étapes. Notre priorité est l'exactitude des informations que nous diffusons au public, ce qui est essentiel pour établir et maintenir la confiance ».

    Sources : Apple, Union nationale des journalistes, Reporters sans frontières

    Et vous ?

    Apple a-t-elle sous-estimé les risques liés à l'automatisation dans un domaine aussi sensible que l'information ?

    Quels mécanismes de contrôle auraient pu être mis en place pour éviter ces erreurs ?

    Les géants de la technologie ont-ils une responsabilité accrue dans la lutte contre la désinformation, même lorsque celle-ci est générée par des erreurs algorithmiques ?

    Peut-on faire confiance à l'IA pour résumer ou éditorialiser des contenus journalistiques ? Comment équilibrer les avantages de l’automatisation avec le risque de diffuser des informations erronées ?

    L’utilisation de l’IA dans les médias doit-elle être strictement régulée, et si oui, par qui ?

    Cet incident pourrait-il affecter la confiance des utilisateurs envers Apple News ou d'autres plateformes automatisées ?
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  12. #32
    Membre émérite
    Homme Profil pro
    Expertise comptable
    Inscrit en
    Décembre 2019
    Messages
    852
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Expertise comptable
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Décembre 2019
    Messages : 852
    Points : 2 904
    Points
    2 904
    Par défaut
    Même le truc de transcription des messages vocaux est éclaté, à la première notif que j'ai eu j'ai cru que mon patron avait fait une syncope et m'envoyait un SMS alors qu'il faisait une rupture d'anévrisme tellement c'était incohérent... 'Ouais Jules Ouais... J'arrive la. Ouais. Descend. Ouais."

    C'était juste une transcription de son message vocal. Pas un seul ouais dans le message vocal. Enfait quasi rien à part quelque syllabe

  13. #33
    Membre chevronné

    Profil pro
    Conseil - Consultant en systèmes d'information
    Inscrit en
    Février 2004
    Messages
    764
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Conseil - Consultant en systèmes d'information

    Informations forums :
    Inscription : Février 2004
    Messages : 764
    Points : 2 111
    Points
    2 111
    Par défaut
    Citation Envoyé par Jules34 Voir le message
    Même le truc de transcription des messages vocaux est éclaté, à la première notif que j'ai eu j'ai cru que mon patron avait fait une syncope et m'envoyait un SMS alors qu'il faisait une rupture d'anévrisme tellement c'était incohérent... 'Ouais Jules Ouais... J'arrive la. Ouais. Descend. Ouais."

    C'était juste une transcription de son message vocal. Pas un seul ouais dans le message vocal. Enfait quasi rien à part quelque syllabe
    J'en fait un paquet de transcription de réunions avec beaucoup de monde, et j'ai très très très rarement des erreurs.

    Pour ma part, malgré les nombreuses mauvaises connexions, personnes qui parlent trop vite, personnes qui parlent en même temps, si je devais donner un taux de réussite, je dirais 99.90% au moins. Sur BEAUCOUP d'heures de transcription en français et en anglais.

Discussions similaires

  1. Meilleur moyen pour assurer les cardinalités ?
    Par Bakura dans le forum Doctrine2
    Réponses: 0
    Dernier message: 04/02/2012, 23h15
  2. [Toutes versions] un autre moyen pour mettre les userforms en plein ecran
    Par patricktoulon dans le forum Contribuez
    Réponses: 1
    Dernier message: 10/09/2010, 18h45
  3. [iPhone] Meilleur moyen pour récupérer les tuiles de l'IGN
    Par Hadrien29 dans le forum IGN API Géoportail
    Réponses: 4
    Dernier message: 17/06/2010, 17h25
  4. Réponses: 3
    Dernier message: 30/01/2009, 21h57

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo