IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

OpenAI permet désormais aux développeurs de personnaliser son système de génération de texte GPT-3


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueur Actualités
    Avatar de Bruno
    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    mai 2019
    Messages
    559
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : mai 2019
    Messages : 559
    Points : 8 893
    Points
    8 893
    Par défaut OpenAI permet désormais aux développeurs de personnaliser son système de génération de texte GPT-3
    GPT-3, le système de génération de texte d'OpenAI, produit désormais 4,5 milliards de mots par jour
    avec une précision de 91 %

    La génération automatique de texte (GAT) ou Natural Langage Generation (NLG) est un processus logiciel qui transforme des données structurées en langage naturel. Le générateur de texte le plus connu est le GPT-3 d'OpenAI, qui a récemment annoncé qu'il est utilisé dans plus de 300 applications, par des « dizaines de milliers » de développeurs et qu'il produit 4,5 milliards de mots par jour, avec une précision de 91 %.

    « Neuf mois après le lancement de notre premier produit commercial, l'API OpenAI, plus de 300 applications utilisent désormais GPT-3, et des dizaines de milliers de développeurs du monde entier construisent sur notre plateforme. Nous générons actuellement en moyenne 4,5 milliards de mots par jour et nous continuons à faire augmenter le trafic de production », a déclaré OpenAI.

    GPT-3 est un modèle de langage autorégressif qui utilise l'apprentissage profond pour produire des textes similaires à ceux des humains. Il s'agit du modèle de prédiction du langage de troisième génération de la série GPT-n créé par OpenAI, un laboratoire de recherche en intelligence artificielle basé à San Francisco et composé de la société à but lucratif OpenAI LP et de sa société mère, la société à but non lucratif OpenAI Inc.

    Nom : gptB.jpg
Affichages : 3153
Taille : 67,3 Ko

    À partir de n'importe quelle invite textuelle, comme une expression ou une phrase, GPT-3 renvoie un complément de texte en langage naturel. Les développeurs peuvent "programmer" GPT-3 en lui montrant seulement quelques exemples ou "invites". « Nous avons conçu l'API pour qu'elle soit à la fois simple à utiliser par tout le monde et suffisamment flexible pour rendre les équipes d'apprentissage automatique plus productives », souligne OpenAI. À ce jour, plus de 300 applications utilisent GPT-3 dans diverses catégories et industries, de la productivité à l'éducation en passant par la créativité et les jeux. Ces applications utilisent les diverses capacités de GPT-3. Voici, ci-dessous, quelques-unes de ces applications :

    Viable aide les entreprises à mieux comprendre leurs clients en utilisant GPT-3 pour fournir des informations utiles à partir des commentaires des clients dans des résumés faciles à comprendre. À l'aide de GPT-3, Viable identifie les thèmes, les émotions et le sentiment à partir des sondages, des journaux de clavardage en direct, des commentaires et plus encore. Il extrait ensuite des informations de ces commentaires et fournit un résumé en quelques secondes.

    Par exemple, à la question, qu'est-ce qui frustre nos clients dans le processus de paiement ? Viable peut fournir l'information suivante : « les clients sont frustrés par le processus de paiement, car il est trop long à charger. Ils veulent également un moyen de modifier leur adresse lors du passage à la caisse et d'enregistrer plusieurs méthodes de paiement ». « La capacité de GPT-3 à identifier des thèmes à partir du langage naturel et à générer des résumés permet à Viable de donner aux équipes chargées des produits, de l'expérience client et du marketing dans les entreprises de tous les secteurs une meilleure compréhension des désirs et des besoins de leurs clients », a déclaré Daniel Erickson, PDG de Viable.

    Fable Studio crée un nouveau genre d'histoires interactives et utilise GPT-3 pour aider à alimenter leurs « êtres virtuels » axés sur l'histoire. Lucy, le héros de Neil Gaiman et Dave McKean's Wolves in the Walls, qui a été adaptée par Fable en une expérience VR primée aux Emmy Awards, peut avoir des conversations naturelles avec les gens grâce aux dialogues générés par GPT-3. Lucy a été invitée au festival du film Sundance 2021 et a présenté son propre film, Dracula. « GPT-3 nous a donné la possibilité de donner vie à nos personnages, a déclaré Edward Saatchi, PDG de Fable Studio. Nous sommes ravis de combiner la vision d'un artiste, l'IA et l'intelligence émotionnelle pour créer des récits puissants, et nous sommes convaincus qu'un jour, tout le monde connaîtra un être virtuel. »

    Algolia utilise GPT-3 dans son produit Algolia Answers pour offrir à ses clients une recherche sémantique pertinente et ultrarapide. Lorsque l'API OpenAI a été lancée, Algolia s'est associée à OpenAI pour intégrer GPT-3 à sa technologie de recherche avancée afin de créer son nouveau produit Answers qui comprend mieux les questions des clients et les connecte à la partie spécifique du contenu qui répond à leurs questions. Algolia Answers aide les éditeurs et les services d'assistance à la clientèle à poser des questions en langage naturel et à trouver des réponses non triviales. Après avoir effectué des tests de GPT-3 sur 2,1 millions d'articles d'actualité, Algolia a obtenu une précision de 91 % ou mieux et Algolia a pu répondre avec précision à des questions complexes en langage naturel quatre fois plus souvent que BERT.

    « Nous avons eu d'excellents résultats avec Algolia Answers sur des questions auxquelles il est difficile de répondre avec une recherche textuelle », a déclaré Peter Buffington, chef de produit chez ABC Australie. « Algolia Answers a été capable de renvoyer un contenu très pertinent, toujours d'actualité, issu de nos archives d'actualités ». « GPT-3 permet à Algolia de répondre à des requêtes plus complexes que jamais avec notre produit Algolia Answers, en identifiant des informations contextuelles plus approfondies pour améliorer la qualité des résultats et les délivrer en quelques secondes », a déclaré Dustin Coates, responsable produit et GTM chez Algolia.

    OpenAI a conclu un accord d'exclusivité avec Microsoft qui donne au géant de la technologie un accès unique au code sous-jacent du programme, mais toute entreprise peut demander l'accès à l'API de GPT-3 et construire des services par-dessus. Rappelons que Microsoft a annoncé le mois dernier qu’elle prévoyait d'ajouter la fonction de prédictions de texte à son logiciel de traitement de texte en mars. Elle fonctionnera de la même manière que l'option Smart Compose de Google Docs ou les suggestions de texte sur certains claviers de smartphones. La nouvelle fonctionnalité utilisera le Machine Learning pour prédire les mots qui devraient apparaître dans une phrase. Pour faciliter le travail des utilisateurs, Word mettra en évidence les prédictions grisées lorsqu'ils rédigent un document. Ils pourront ensuite accepter les suggestions en appuyant sur la touche Tab ou les rejeter en appuyant sur Echap. Les prédictions de texte pourront être complètement désactivées par les utilisateurs de Word.

    « Pour moi, et pour d'autres innovateurs motivés par leur mission, OpenAI nous a donné l'outil dont nous avons finalement besoin pour apporter des transformations dans la communauté. Avec le traitement du langage naturel, l'expérience technique n'est plus un obstacle et nous pouvons vraiment nous concentrer sur la résolution des problèmes du monde réel », a déclaré Abran Maldonado, Cofondateur de Create Labs au sujet de GPT-3. « Dans mon travail avec de nombreux développeurs débutants, ceux qui réussissent le mieux à construire avec GPT-3 sont de grands communicateurs, car ils sont capables de débloquer les nuances de la conception rapide », a-t-il ajouté.

    Pour Natalie Pistunovich, Lead Developer Advocate chez Aerospike et fondatrice de Women Techmakers Berlin, la programmation avec GPT-3 peut ressembler à un processus beaucoup plus créatif par rapport au codage traditionnel en raison des invites en langage naturel. « Je pense que l'IA sera intégrée dans chaque produit à l'avenir, et c’est un plaisir de travailler avec des développeurs de tous niveaux d'expérience du monde entier qui créent des applications innovantes grâce à l'API ».

    L’enthousiasme que suscite GPT-3 n’est pas partagé par tout le monde. Certains analystes pensent que l’on devrait s’inquiéter de la qualité des résultats fournis par les systèmes de génération de texte. Pour ces derniers, les générateurs de texte ont la capacité d'absorber et d'amplifier des préjugés dangereux.

    Nom : santéB.png
Affichages : 3100
Taille : 81,8 Ko

    Dans le domaine de la santé par exemple, Nabla, une startup française qui a conçu un chatbot médical basé sur GPT-3 d’OpenAI, a déclaré que GPT-3 n’est pas encore aussi bon que la recherche sur Google. Les tests réalisés par Nabla ont permis d’observer que pour la recherche d’informations scientifique spécifique, les posologies des médicaments ou les aides à la prescription, GPT-3 n'est pas assez stable pour être utilisé en toute sécurité comme un outil d'aide fiable pour les médecins.

    « Il n'a tout simplement pas été conçu pour donner des conseils médicaux », a déclaré l’équipe Nabla. « En raison de la façon dont GPT-3 a été conçu, il manque l'expertise scientifique et médicale qui le rendrait utile pour le soutien au diagnostic, la documentation médicale, la recommandation de traitement ou toute question médicale », a ajouté l'équipe Nabla dans un rapport sur ses expériences. « Oui, GPT-3 peut avoir raison dans ses réponses, mais il peut aussi être très mauvais, et cette incohérence n'est tout simplement pas viable dans le domaine des soins de santé ».

    Lors des tests chatbot médical construit à l'aide de GPT-3, le modèle a répondu à un patient "suicidaire" en l'encourageant à se suicider. Selon Nabla, le modèle d'OpenAI, créé à l’origine comme un générateur de texte à usage général, est trop risqué pour être utilisé dans le domaine de la santé.

    Source : OpenAI

    Et vous ?

    Quel est votre avis sur le sujet ?

    Voir aussi :

    Open AI présente DALL-E (comme GPT-3), un modèle qui crée des images à partir de texte, pour un large éventail de concepts exprimables en langage naturel

    Un faux blog d'un lycéen généré par GPT-3, l'IA de traitement du langage naturel d'OpenAI, a trompé des dizaines de milliers de personnes

    Open AI propose en bêta privée son modèle de traitement du langage naturel GPT-3, ses applications vont de la génération de texte cohérent à la génération de code en passant par la création d'apps

    Un chatbot médical GPT-3 d'OpenAI serait-il une bonne idée ? Il a dit à un patient simulé de se suicider, lors d'un test réalisé par Nabla
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    6 552
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 6 552
    Points : 155 631
    Points
    155 631
    Par défaut OpenAI permet désormais aux développeurs de personnaliser son système de génération de texte GPT-3
    OpenAI permet désormais aux développeurs de personnaliser son système de génération de texte GPT-3,
    pour créer des modèles adaptés au contenu spécifique de leurs applications et services

    OpenAI, le laboratoire basé à San Francisco, en Californie, qui développe des technologies d'IA, y compris de grands modèles linguistiques, a annoncé la possibilité de créer des versions personnalisées de GPT-3, un modèle capable de générer du texte et du code de type humain. Les développeurs peuvent utiliser le réglage fin pour créer des modèles GPT-3 adaptés au contenu spécifique de leurs applications et services, ce qui permet d'obtenir des résultats de meilleure qualité pour toutes les tâches et charges de travail, selon la société.

    « Selon Gartner, 80 % des produits et services technologiques seront créés par des personnes qui ne sont pas des professionnels de la technologie d'ici 2024. Cette tendance est alimentée par l'adoption accélérée de l'IA dans le monde des affaires, qui nécessite parfois des charges de travail d'IA spécifiquement adaptées », a déclaré un porte-parole d'OpenAI. « Avec une seule ligne de code, GPT-3 personnalisé permet aux développeurs et aux équipes commerciales d'exécuter et de former de puissants modèles d'IA basés sur des ensembles de données spécifiques, éliminant ainsi le besoin de créer et de former leurs propres systèmes d'IA à partir de zéro, ce qui peut être assez coûteux, long et intensif ».

    GPT-3 est un modèle de langage autorégressif qui utilise l'apprentissage profond pour produire des textes similaires à ceux des humains. Il s'agit du modèle de prédiction du langage de troisième génération de la série GPT-n créé par OpenAI, un laboratoire de recherche en intelligence artificielle basé à San Francisco et composé de la société à but lucratif OpenAI LP et de sa société mère, la société à but non lucratif OpenAI Inc.

    À partir de n'importe quelle invite textuelle, comme une expression ou une phrase, GPT-3 renvoie un complément de texte en langage naturel. Les développeurs peuvent « programmer » GPT-3 en lui montrant seulement quelques exemples ou « invites ». « Nous avons conçu l'API pour qu'elle soit à la fois simple à utiliser par tout le monde et suffisamment flexible pour rendre les équipes d'apprentissage automatique plus productives », soulignait OpenAI fin mars. À cette période, plus de 300 applications utilisent GPT-3 dans diverses catégories et industries, de la productivité à l'éducation en passant par la créativité et les jeux. Ces applications se servent de diverses capacités de GPT-3 :
    • Viable aide les entreprises à mieux comprendre leurs clients en utilisant GPT-3 pour fournir des informations utiles à partir des commentaires des clients dans des résumés faciles à comprendre. À l'aide de GPT-3, Viable identifie les thèmes, les émotions et le sentiment à partir des sondages, des journaux de clavardage en direct, des commentaires et plus encore. Il extrait ensuite des informations de ces commentaires et fournit un résumé en quelques secondes.
    • Fable Studio crée un nouveau genre d'histoires interactives et utilise GPT-3 pour aider à alimenter leurs « êtres virtuels » axés sur l'histoire. Lucy, le héros de Neil Gaiman et Dave McKean's Wolves in the Walls, qui a été adaptée par Fable en une expérience VR primée aux Emmy Awards, peut avoir des conversations naturelles avec les gens grâce aux dialogues générés par GPT-3. Lucy a été invitée au festival du film Sundance 2021 et a présenté son propre film, Dracula. « GPT-3 nous a donné la possibilité de donner vie à nos personnages, a déclaré Edward Saatchi, PDG de Fable Studio. Nous sommes ravis de combiner la vision d'un artiste, l'IA et l'intelligence émotionnelle pour créer des récits puissants, et nous sommes convaincus qu'un jour, tout le monde connaîtra un être virtuel. »
    • Algolia utilise GPT-3 dans son produit Algolia Answers pour offrir à ses clients une recherche sémantique pertinente et ultrarapide. Lorsque l'API OpenAI a été lancée, Algolia s'est associée à OpenAI pour intégrer GPT-3 à sa technologie de recherche avancée afin de créer son nouveau produit Answers qui comprend mieux les questions des clients et les connecte à la partie spécifique du contenu qui répond à leurs questions. Algolia Answers aide les éditeurs et les services d'assistance à la clientèle à poser des questions en langage naturel et à trouver des réponses non triviales. Après avoir effectué des tests de GPT-3 sur 2,1 millions d'articles d'actualité, Algolia a obtenu une précision de 91 % ou mieux et Algolia a pu répondre avec précision à des questions complexes en langage naturel quatre fois plus souvent que BERT.

    GPT-3 personnalisé

    Sans être personnalisé, GPT-3 peut déjà effectuer une grande variété de tâches: recherche sémantique, analyse des sentiments, traduction, génération de contenu ou encore résumé automatique de textes. L’affinage, basé sur des exemples de texte associés à des tâches spécifiques, promet de produire des résultats encore meilleurs.

    La nouvelle capacité d'affinage dans le réglage de GPT-3 permet aux clients de former GPT-3 à reconnaître un modèle spécifique pour les charges de travail telles que la génération de contenu, la classification et la synthèse de texte dans les limites d'un domaine particulier.

    Le prestataire Viable utilise GPT-3 pour aider les entreprises à tirer parti des feedbacks de leurs clients. A partir de données non structurées, le système permet de produire des rapports résumant les commentaires et interactions avec les clients. En personnalisant GPT-3, Viable serait parvenu à faire passer la précision de ses rapports de 66% à 90%.

    Il en va de même pour Keeper Tax, un outil qui simplifie la comptabilité des freelances en classant et en extrayant automatiquement les données utiles pour la déclaration d'impôts, à partir d’un compte bancaire ou de paiement. Keeper Tax utilise GPT-3 pour interpréter les données des relevés bancaires afin de trouver des dépenses potentiellement déductibles d'impôt. La société continue d'affiner GPT-3 avec de nouvelles données chaque semaine en fonction des performances de son produit dans le monde réel, en se concentrant sur des exemples où le modèle est tombé en dessous d'un certain seuil de performance. Les développeurs ajoutent environ 500 nouveaux exemples à un rythme hebdomadaire pour affiner le modèle. Keeper Tax affirme que le processus de mise au point produit une amélioration d'environ 1% d'une semaine à l'autre (ce qui peut ne pas sembler énorme) et l'amélioration va crescendo avec le temps.

    « [Une chose à laquelle] nous avons été très attentifs et sur laquelle nous avons insisté lors de notre développement de cette API est de la rendre accessible aux développeurs qui n'ont pas nécessairement une formation en apprentissage automatique », a déclaré Rachel Lim, membre du personnel technique d'OpenAI. « Comment cela se manifeste, c'est que vous pouvez personnaliser un modèle GPT-3 à l'aide d'une invocation de ligne de commande. [Nous] espérons qu'en raison de son accessibilité, nous serons en mesure d'atteindre un ensemble plus diversifié d'utilisateurs qui peuvent apporter leur ensemble plus diversifié de problèmes à la technologie ».

    Lim affirme que la capacité d'affinage du GPT-3 peut également entraîner des économies de coûts, car les clients peuvent compter sur une fréquence plus élevée de sorties de meilleure qualité à partir de modèles réglés avec précision par rapport à un modèle standard GPT-3 (OpenAI facture l'accès à l'API en fonction du nombre de jetons, ou de mots, que les modèles génèrent). Alors qu'OpenAI prélève une prime sur les modèles affinés, Lim dit que la plupart des modèles affinés nécessitent des invites plus courtes contenant moins de jetons - ce qui peut permettent également de réaliser des économies.

    L'affinage de réglage peut également être avantageux, selon Lim, en ce qu'il peut permettre aux entreprises de garder les modèles GPT-3 personnalisés « plus frais ». Par exemple, Koko, une plateforme de soutien par les pairs qui propose une thérapie cognitive participative, a pu affiner un modèle GPT-3 pour refléter un nombre croissant de troubles de l'alimentation pendant la pandémie.

    Dans une expérience interne, OpenAI a affiné deux tailles de GPT-3 sur 8 000 exemples de problèmes de mathématiques à l'école primaire, un ensemble de données créé par le laboratoire contenant des problèmes au niveau de mathématiques de l'école primaire. OpenAI affirme que les modèles affinés ont plus que doublé en précision lorsqu'ils sont testés sur des questions du même ensemble de données, répondant correctement à des questions telles que « Carla doit nettoyer à sec 80 pièces de linge avant midi. Si elle commence à travailler à 8 heures du matin, combien de pièces de linge doit-elle nettoyer par heure ? »

    « [Nous] recherchons en permanence des moyens d'améliorer l'expérience utilisateur pour permettre aux utilisateurs d'obtenir plus facilement de bons résultats suffisamment robustes pour être utilisés dans des applications de qualité production », a déclaré Lim. « Le réglage fin est un moyen d'aligner davantage les modèles sur des données spécifiques. »

    L’API de GPT-3 est disponible publiquement depuis 2020. Un an avant son lancement, ses concepteurs avaient décidé de ne pas rendre public les travaux du développement de la mouture précédente, GPT-2, estimant que ce système dopé au machine learning pourrait s’avérer dangereux en tombant entre les mains de personnes malveillantes.

    Certains analystes ont indiqué que l’on devrait s’inquiéter de la qualité des résultats fournis par les systèmes de génération de texte. Pour ces derniers, les générateurs de texte ont la capacité d'absorber et d'amplifier des préjugés dangereux.

    Nom : prejuges.png
Affichages : 1218
Taille : 57,0 Ko

    Dans le domaine de la santé par exemple, Nabla, une startup française qui a conçu un chatbot médical basé sur GPT-3 d’OpenAI, a déclaré que GPT-3 n’est pas encore aussi bon que la recherche sur Google. Les tests réalisés par Nabla ont permis d’observer que pour la recherche d’informations scientifique spécifique, les posologies des médicaments ou les aides à la prescription, GPT-3 n'est pas assez stable pour être utilisé en toute sécurité comme un outil d'aide fiable pour les médecins.

    « Il n'a tout simplement pas été conçu pour donner des conseils médicaux », a déclaré l’équipe Nabla. « En raison de la façon dont GPT-3 a été conçu, il manque l'expertise scientifique et médicale qui le rendrait utile pour le soutien au diagnostic, la documentation médicale, la recommandation de traitement ou toute question médicale », a ajouté l'équipe Nabla dans un rapport sur ses expériences. « Oui, GPT-3 peut avoir raison dans ses réponses, mais il peut aussi être très mauvais, et cette incohérence n'est tout simplement pas viable dans le domaine des soins de santé ».

    Lors des tests chatbot médical construit à l'aide de GPT-3, le modèle a répondu à un patient "suicidaire" en l'encourageant à se suicider. Selon Nabla, le modèle d'OpenAI, créé à l’origine comme un générateur de texte à usage général, est trop risqué pour être utilisé dans le domaine de la santé.

    Cet été, OpenAI s'est associé à Microsoft pour lancer le service Azure OpenAI, une offre conçue pour donner aux entreprises l'accès à GPT-3 et à ses dérivés ainsi qu'à la sécurité, la conformité, la gouvernance et d'autres fonctionnalités axées sur l'entreprise. Microsoft entretient des relations étroites avec OpenAI, ayant investi 1 milliard de dollars dans l'entreprise en 2020 et licencié exclusivement GPT-3 pour développer des solutions d'IA pour les clients Azure.

    Source : OpenAI

    Voir aussi :

    Open AI présente DALL-E (comme GPT-3), un modèle qui crée des images à partir de texte, pour un large éventail de concepts exprimables en langage naturel
    Un faux blog d'un lycéen généré par GPT-3, l'IA de traitement du langage naturel d'OpenAI, a trompé des dizaines de milliers de personnes
    Open AI propose en bêta privée son modèle de traitement du langage naturel GPT-3, ses applications vont de la génération de texte cohérent à la génération de code en passant par la création d'apps
    Un chatbot médical GPT-3 d'OpenAI serait-il une bonne idée ? Il a dit à un patient simulé de se suicider, lors d'un test réalisé par Nabla
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

Discussions similaires

  1. [Système] Bien formater mon texte.
    Par thomfort dans le forum Langage
    Réponses: 6
    Dernier message: 31/05/2007, 19h20
  2. [GD] Problème police opentype sur génération de texte en image
    Par Sseubb dans le forum Bibliothèques et frameworks
    Réponses: 1
    Dernier message: 29/03/2007, 18h03
  3. Réponses: 2
    Dernier message: 19/05/2006, 14h48
  4. Problème Génération fichier texte
    Par veenie dans le forum Oracle
    Réponses: 5
    Dernier message: 18/05/2006, 12h21
  5. [Système] Tronquer un long texte à un saut de ligne
    Par php_de_travers dans le forum Langage
    Réponses: 1
    Dernier message: 14/05/2006, 23h33

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo