Discussion :

[Stéphane le calme]

90% du contenu en ligne pourrait être « généré par l'IA d'ici 2025 », selon une conférencière en IA
Nina Schick estime que le rythme d'accélération est si rapide que les « choses qui nous émerveillent début de 2023 vont sembler assez pittoresques d'ici la fin de l'année »

L'IA générative, comme le ChatGPT d'OpenAI, pourrait complètement réorganiser la façon dont le contenu numérique est développé, a déclaré Nina Schick, conseillère et conférencière en IA : « Je pense que nous pourrions atteindre 90 % du contenu en ligne généré par l'IA d'ici 2025, donc cette technologie est exponentielle ». « Je crois que la majorité du contenu numérique va commencer à être produite par l'IA. Vous voyez ChatGPT... mais il y a toute une pléthore d'autres plateformes et applications qui arrivent. »

Les technologies génératives basées sur l’apprentissage machine semblent rencontrent un véritable succès. Par exemple, ChatGPT a dépassé le cap du million d’utilisateurs en seulement cinq jours.

Dans le milieu des chercheurs

Il faut dire que ChatGPT a beaucoup fait parler de lui et pour plusieurs raisons. Par exemple, un groupe de chercheurs dirigés par Catherine Gao de la Northwestern University de Chicago, dans l'Illinois, a utilisé ChatGPT pour générer des résumés d'articles de recherche artificiels afin de tester si les scientifiques peuvent les repérer.

Les chercheurs ont demandé au chatbot de rédiger 50 résumés de recherche médicale basés sur une sélection publiée dans JAMA, The New England Journal of Medicine, The BMJ, The Lancet et Nature Medicine. Ils les ont ensuite comparés aux résumés originaux en les faisant passer à travers un détecteur de plagiat et un détecteur de sortie AI, et ils ont demandé à un groupe de chercheurs médicaux de repérer les résumés générés par IA.

Les résumés générés par ChatGPT sont passés par le vérificateur de plagiat : le score d'originalité médian était de 100 %, ce qui indique qu'aucun plagiat n'a été détecté. Le détecteur de sortie AI a repéré 66 % des résumés générés. Mais les relecteurs humains n'ont pas fait beaucoup mieux : ils n'ont identifié correctement que 68 % des résumés générés et 86 % des résumés authentiques. Ils ont incorrectement identifié 32 % des résumés générés comme étant réels et 14 % des résumés authentiques comme étant générés par l'IA.

« ChatGPT rédige des résumés scientifiques crédibles », déclarent Gao et ses collègues dans la prépublication. « Les limites de l'utilisation éthique et acceptable des grands modèles de langage pour aider l'écriture scientifique restent à déterminer »

Le milieu scolaire

ChatGPT s'est aussi invité dans les écoles. À Lyon, un professeur a remarqué de curieuses similitudes dans les copies rendues par la moitié de ses étudiants; il leur avait donné une semaine pour rédiger leurs devoirs. Si les mots différaient, leurs structures démonstratives et leurs exemples sont restés constamment les mêmes. C’est en se renseignant auprès de ses élèves que l’un d’eux a fini par avouer l’utilisation de ChatGPT dans la rédaction. « Il ne s’agissait pas de copier-coller. Mais les copies étaient construites exactement de la même manière », a raconté Stéphane Bonvallet. « On y retrouvait les mêmes constructions grammaticales. Le raisonnement était mené dans le même ordre, avec les mêmes qualités et les mêmes défauts ».

Stéphane Bonvallet raconte au Progrès en avoir discuté directement avec une étudiante. Elle reconnaît alors que la moitié de la promotion de 14 élèves a eu recours à ChatGPT.

Les étudiants n’ont pas reçu de blâme pour cet usage, puisque l’utilisation d'outil de la même trempe que ChatGPT n'est pas proscrit par le milieu scolaire : « n’ayant pas de cadre interdisant actuellement cette pratique, j’ai été contraint de les noter », explique-t-il au quotidien. Puisque les autres notes étaient comprises entre 10 et 12,5, le professeur a choisi d'attribuer la même note de 11,75 à tous ces travaux qui se sont appuyés sur ChatGPT.

En se renseignant auprès de ses collègues, il a fait le constat que ce cas était loin d’être isolé.

« Cette pratique m’inquiète. Elle pose un véritable problème d’intégration des savoirs, car les élèves n’ont plus besoin d’effectuer la moindre recherche pour composer », a regretté le professeur.

Les médias

CNET, un média d'information technologique populaire, a discrètement utilisé l'aide d'une technologie d'automatisation sur une nouvelle vague d'articles explicatifs financiers, apparemment à partir de novembre de l'année dernière. En l'absence de toute annonce ou couverture officielles, il semble que cela ait été repéré pour la première fois par le spécialiste du marketing en ligne Gael Breton dans un tweet mercredi.

Les articles sont publiés sous l'appellation sans prétention de « CNET Money Staff » et englobent des sujets tels que « Que sont les frais NSF et pourquoi les banques les facturent-elles ? », « Quelle est la différence entre une banque et une coopérative de crédit ? » ou « Qu'est-ce que Zelle et comment ça marche ? »

Ce trait commun (des questions en guise de titre) ne donne évidemment pas une image complète, et donc le lecteur visitant le site n'aura probablement aucune indication que ce qu'il lit est généré par l'IA. Ce n'est que lorsque vous cliquez sur « CNET Money Staff » que la véritable « paternité » est révélée. « Cet article a été généré à l'aide de la technologie d'automatisation », peut-on lire sur une description déroulante, « et soigneusement édité et vérifié par un éditeur de notre équipe éditoriale ».

Et même la cybercriminalité

Du rapport de CheckPoint, il ressort que ChatGPT peut générer le code d’un logiciel malveillant capable de voler des fichiers précis sur un PC, de les compresser et de les envoyer sur un ordinateur distant. Cette intelligence artificielle peut aussi produire du code pour un outil logiciel qui installe une porte dérobée sur un ordinateur et ensuite télécharge d’autres logiciels malveillants à partir de cette dernière. La firme rapporte en sus que les cybercriminels peuvent s’en servir pour la mise sur pied de logiciels capables de chiffrer les fichiers du PC d’une cible. CheckPoint rapporte que ChatGPT ouvre ces possibilités à des individus avec de très faibles connaissances techniques.

La publication de CheckPoint est en phase avec celle de Matt Welsh de la startup Fixie.ai qui prédit que l’utilisation de l’intelligence artificielle est de nature à ouvrir la filière à tous : « L’on n’aura plus besoin d’être un expert en programmation informatique pour obtenir quelque chose d’utile d’une intelligence artificielle. »

Matt Welsh dépeint un futur dans lequel la filière informatique va passer de l’approche d’écriture des programmes informatiques par des humains à celle de la mise à contribution d’agents d’intelligence artificielle au préalable entraînés pour remplacer les humains dans des activités comme le développement d’applications informatique. Le tableau ravive ainsi des craintes sur la perspective de voir l’intelligence artificielle surpasser les humains.

Autant de choses qui suscitent l'intérêt des investisseurs

Face à la montée en popularité de ChatGPT, Microsoft a amorcé les discussions avec OpenAI, propriétaire de ChatGPT, pour investir pratiquement 10 milliards de dollars. L’opération en ferait l'une des startups d'IA les plus précieuses sur le papier, bien qu'elle génère peu de revenus. Les sociétés de capital-risque Thrive Capital et Founders Fund seraient aptes à investir dans l'opération, qui totaliserait au moins 300 millions de dollars en ventes d'actions. Semafor a rapporté que Microsoft devrait également participer à l'opération.

OpenAI n'est pas la seule entité à être lorgnée par les investisseurs. Jasper, une entreprise spécialisée dans l’intelligence artificielle générative, a levé 150 millions de dollars en octobre 2022, lui permettant d’atteindre une valorisation de 1,5 milliard de dollars. Stability AI, active dans la génération d’images, a pour sa part réuni 101 millions de dollars le même mois, permettant à l'entreprise d'être valorisée à un milliard de dollars.

Au total, les investisseurs auraient injecté quelque 1,37 milliard de dollars en 2022 dans des projets de technologies génératives basées sur de l’apprentissage machine. C’est plus que les investissements réalisés sur les cinq dernières années.

D'ailleurs, voici ce que Sequoia Capital a récemment écrit sur ce secteur :

Les humains sont bons pour analyser les choses. Les machines sont encore meilleures. Les machines peuvent analyser un ensemble de données et y trouver des modèles pour une multitude de cas d'utilisation, qu'il s'agisse de détection de fraude ou de spam, de prévision de l'ETA de votre livraison ou de la prédiction de la prochaine vidéo TikTok à vous montrer. Ils deviennent plus intelligents dans ces tâches. C'est ce qu'on appelle « l'IA analytique » ou l'IA traditionnelle.

Mais les humains ne sont pas seulement doués pour analyser les choses, nous sommes aussi doués pour créer. Nous écrivons de la poésie, concevons des produits, créons des jeux et développons du code. Jusqu'à récemment, les machines n'avaient aucune chance de rivaliser avec les humains dans le travail créatif - elles étaient reléguées à l'analyse et au travail cognitif par cœur. Mais les machines commencent tout juste à devenir douées pour créer des choses sensées et belles. Cette nouvelle catégorie s'appelle « l'IA générative », ce qui signifie que la machine génère quelque chose de nouveau plutôt que d'analyser quelque chose qui existe déjà.

L'IA générative est en passe de devenir non seulement plus rapide et moins chère, mais aussi meilleure dans certains cas que ce que les humains créent à la main. Chaque industrie qui nécessite des humains pour créer un travail original - des médias sociaux aux jeux, de la publicité à l'architecture, du codage à la conception graphique, de la conception de produits au droit, du marketing aux ventes - est prête à être réinventée. Certaines fonctions peuvent être complètement remplacées par l'IA générative, tandis que d'autres sont plus susceptibles de prospérer à partir d'un cycle créatif itératif serré entre l'homme et la machine, mais l'IA générative devrait débloquer une création meilleure, plus rapide et moins chère sur un large éventail de marchés finaux. Le rêve est que l'IA générative ramène le coût marginal de la création et du travail du savoir vers zéro, générant une productivité du travail et une valeur économique considérables, ainsi qu'une capitalisation boursière proportionnelle.

Les domaines abordés par l'IA générative (travail du savoir et travail créatif) concernent des milliards de travailleurs. L'IA générative peut rendre ces travailleurs au moins 10*% plus efficaces et/ou créatifs*: ils deviennent non seulement plus rapides et plus efficaces, mais aussi plus capables qu'auparavant. Par conséquent, l'IA générative a le potentiel de générer des milliers de milliards de dollars de valeur économique.

Une conférencière en IA estime que l'IA générative va connaître un changement rapide

Le regain d'intérêt pour DALL-E et ChatGPT d'OpenAI a facilité un large débat public sur l'IA et son rôle croissant dans notre monde, en particulier l'IA générative.

« ChatGPT a vraiment captivé l'imagination du public d'une manière extrêmement convaincante, mais je pense que dans quelques mois, ChatGPT sera simplement considéré comme un autre outil alimenté par cette nouvelle forme d'IA, connue sous le nom d'IA générative », a déclaré Nina Schick, conférencière en IA, dans une interview avec Yahoo Finance.

Il est important de comprendre ce qu'est exactement l'IA générative - et ce qu'elle n'est pas.

« Ce que l'IA générative peut faire, essentiellement, c'est créer de nouvelles choses qui auraient jusqu'à présent été considérées comme uniques à l'intelligence ou à la créativité humaine », a-t-elle déclaré. « L'IA générative peut créer sur tous les médias, donc du texte, de la vidéo, de l'audio, des images - chaque support numérique peut être alimenté par l'IA générative. Donc, je pense que ces valorisations que vous voyez pour OpenAI vont en fait augmenter et nous allons commencer à voir encore plus d'entreprises d'IA génératives qui ont des applications universelles dans de nombreux secteurs en 2023 ».

Tout cela est encore vraiment nouveau, car les applications pour l'IA générative « ne sont vraiment apparues au premier plan qu'au cours des 24 à 6 derniers mois », a ajouté Schick.

L'espace de l'IA générative devrait devenir beaucoup plus compétitif l'année prochaine, a déclaré Schick, qui s'attend à voir des entreprises comme Google, Microsoft et Apple faire « beaucoup plus » dans cet espace.

Bien que beaucoup ait été dit sur la mesure dans laquelle ChatGPT peut ou non présenter une menace existentielle pour la domination de Google en matière de recherche, Schick a déclaré qu'elle s'attend à voir Google rivaliser plutôt que dépérir : « Il y a eu beaucoup de débats sur la question de savoir si OpenAI est une menace existentielle pour Google - le fait que Microsoft est un investisseur dans OpenAI, le fait que ChatGPT va être intégré à Bing, si cela va remettre en cause la domination de Google », indique Schick. « Bien que ce soit une histoire fantastique, il ne fait aucun doute que Google développe ses propres outils d'IA générative avec la quantité de données dont ils disposent ».

Bien que ce soit compliqué, dans la mesure où ChatGPT sous sa forme actuelle est un concurrent viable de Google, il y a peu de doute sur les possibilités. Pendant ce temps, Microsoft a déjà investi 1 milliard de dollars dans OpenAI, et il est question d'investissements supplémentaires de la part du géant de la technologie d'entreprise, qui possède le moteur de recherche Bing. La société chercherait à investir 10 milliards de dollars supplémentaires dans OpenAI.

En fin de compte, elle estime que l'espace de l'IA générative va connaître un changement rapide.

« Le rythme d'accélération est si incroyable que ces outils - qui nous choquent et nous émerveillent au début de 2023 - vont sembler assez pittoresques d'ici la fin de l'année parce que les capacités vont juste augmenter si puissamment », a déclaré Schick.

Sources : interview Yahoo Finance (vidéo dans le texte), Sequoia Capital

Et vous ?

Partagez-vous les propos de Nina Schick lorsqu'elle estime que 90% du contenu en ligne pourrait être « généré par l'IA d'ici 2025 » ? Dans quelle mesure ?
Partagez-vous son point de vue lorsqu'elle estime que les « choses qui nous émerveillent début de 2023 vont sembler assez pittoresques d'ici la fin de l'année » ?

[marsupial]

L'enfant va avoir une poussée de croissance

[eric44000]

Le risque est de voir en effet beaucoup de texte généré. Quoi de plus rapide et sans prise de tête que de demander à un générateur un titre d'article de blog et le texte qui va avec susceptible de générer du trafic ? Un appauvrissement du contenu sera alors inévitable. Par contre pour ce qui est des images générées, les meilleures se feront par les meilleurs infographistes. Cela augmentera leur productivité et leur revenus par la même occasion. Quant aux œuvres artistiques, il est plus facile de faire sans pour un artiste.

[DevTroglodyte]

On va se faire grand-remplacer par les machines !

Bon, personnellement, j'attendrai de le voir pour le croire, parce que ce genre d'annonce faite par des "analystes" à peine biaisés, ça m'agace pas mal. On nous a fait le coup avec le métavers (dont tout le monde se fout), les cryptomonnaies (qui ont fait un crash majeur), les NFT (dont on n'entend plus parler), ...

[ONTAYG]

Elle en est où la réflexion humaine ?

[Bundy*Al]

En gros l'internet du futur sera composé majoritairement de sites marchands et de sites de presse powered by IA.
Quel sera l’intérêt d'avoir un blog si plus personne ne vient le lire puisque les gens passeront par des IA et qu'en plus les IA voleront ton contenu.
Enfin bon y'a aussi des chances que son analyse soit toute pétée aussi.

[BleAcheD]

Je deviens peut être un "boomer" mais c'est vrai que ça ne fait pas forcément rêver

[jc_granit]

A condition d'inventer encore la BI (bêtise artificielle)!

Parce que lors que l'on constate ce qui est édité sur les contenus en ligne, je ne vois pas comment de l'intelligence (fusse-t-elle artificielle) pourrait créer le 90% de ce que l'on y trouve...

[onilink_]

En gros l'internet du futur sera composé majoritairement de sites marchands et de sites de presse powered by IA.
Quel sera l’intérêt d'avoir un blog si plus personne ne vient le lire puisque les gens passeront par des IA et qu'en plus les IA voleront ton contenu.
Enfin bon y'a aussi des chances que son analyse soit toute pétée aussi.

En fait c'est déjà plus ou moins le cas actuellement, même sans IA génératrices mais avec de bêtes algorithmes.

La truc c'est que les moteurs de recherche font un job plutôt correct quand il s'agit de discriminer le "vrai contenu" du contenu crée uniquement pour générer du trafic.
Du coup on ne s'en rend pas trop compte.

Et je dis "correct" car c'est très loin d'être parfait. Dans la dernière décennie j'ai constaté un appauvrissement d'internet assez flippant, et je ne pense pas être le seul.
On a énormément de sites qui phagocytent le contenu d'autres sites, comme pinterest ou encore des espèces de clones de stackoverflow traduits automatiquement.
Beaucoup de faux sites générés automatiquement (par ex de téléchargement) qui génèrent du clic en passant par des passerelles de pubs, etc... et j'en passe.

Le problème, c'est que tout cela est déjà assez difficile à détecter pour un moteur de recherche.
Maintenant avec des IA génératrices ça va devenir très difficile sans créer des outils sur mesure pour chaque modèle d'IA.

Bref, le web qu'on a connu est en train de mourir lentement mais sûrement depuis un certains temps.

Sans parler du découpage d'internet causé par des sites comme facebook, qui limitent au maximum les interactions entre ses utilisateurs avec le reste d'internet.
Il suffit de monitorer sa propre activité pour voir à quel point on ne "surf" plus sur internet, mais que dans un sous ensemble extrêmement réduit.


Le seul facteur d'incertitude que l'ont peut avoir, c'est quand à la capacité de ces corporations d'améliorer leurs IAs de manière rentable.
En machine learning il est assez difficile de prédire les évolutions des algorithmes.
Actuellement ChatGPT ne comprend rien de ce qu'il raconte, mais combien de temps faudra-t-il attendre pour que ce ne soit plus le cas?

[archqt]

J'ai demandé à chatGPt de faire les programmes suivant en C :

• Compter les voyelles : programme marche bien, algo correct, bourrin mais correct

• Compter chaque voyelle et indiquer combien de a, ou e... : idem programme correct

• Faire un clignotement de LED sur un micro-contrôleur pico : il m'a sorti un programme pour l'arduino PERDU

Mais c'est impressionnant. Ensuite visiblement s'il en trouve pas de code de ce qui est demandé cela ne fonctionne pas.

[totozor]

Donc dans 2 ans 90% du contenu (écrit?) sur internet sera généré par une IA. Pourquoi pas, je n'ai pas de mal à imaginer que Wikipedia soit en partie automatiquement complété.
Mais sur quoi se base 90% de ce contenu?
Soit il s'auto entretient et n'évolue pas et on va arrêter de la consulter.
soit sur les 10% restants.

Que se passe-t-il ensuite?
Internet devient un gigantesque agrégat de texte non lu parce que répété X fois, qui paye pour stocker du blabla non lu?
10% du web devient intéressant et il regroupera donc l'essentiel du Traffic. Le reste se dégonflant donc comme un ballon de baudruche.
Nous voila en 2027 revenu au niveau de 2023. (Oui dans ce monde il existe toujours les torchons qui font un titre racoleur et un article vide)

Pour moi chatGPT a un gros intérêt : on lui pose une question, il répond et il oublie ce qu'il a dit.
Il ne remplit pas le web de son "opinion" plus ou moins avisé

[onilink_]

Donc dans 2 ans 90% du contenu (écrit?) sur internet sera généré par une IA. Pourquoi pas, je n'ai pas de mal à imaginer que Wikipedia soit en partie automatiquement complété.
Mais sur quoi se base 90% de ce contenu?
Soit il s'auto entretient et n'évolue pas et on va arrêter de la consulter.
soit sur les 10% restants.

Que se passe-t-il ensuite?
Internet devient un gigantesque agrégat de texte non lu parce que répété X fois, qui paye pour stocker du blabla non lu?
10% du web devient intéressant et il regroupera donc l'essentiel du Traffic. Le reste se dégonflant donc comme un ballon de baudruche.
Nous voila en 2027 revenu au niveau de 2023. (Oui dans ce monde il existe toujours les torchons qui font un titre racoleur et un article vide)

Pour moi chatGPT a un gros intérêt : on lui pose une question, il répond et il oublie ce qu'il a dit.
Il ne remplit pas le web de son "opinion" plus ou moins avisé

Le vrai risque ce n'est pas que wikipédia soit à 90% généré par des IA.
Mais que le contenu du web au complet soit à 90% généré par des IA.
Ce qui rendra probablement wikipedia moins fiable car il risque fortement d'avoir des références vers du contenu généré par IA, et donc probablement bidon.

Évidement (heureusement) que de nombreux sites, qui ont une certaine éthique, vont tout faire pour limiter le contenu généré de leur coté.
Beaucoup de galeries interdisent déjà le contenu généré par IA par exemple.
Mais ça n’empêchera pas des "copies frauduleuses" d’apparaître, pour attirer le trafic.

Ça existe déjà, des sites qui récupèrent du contenu d'un autre site (par ex qui pompent stack overflow ou quora), le réorganisent ou le traduisent pour récupérer des clics.

Ou juste des sites assistés par IA. Comme ça au lieu de passer 2h à écrire un billet de blog, tu y passes 5 minutes.
Ça crée une asymétrie totale entre ceux qui utilisent l'IA et les autres, augmentant par conséquent le nombre de contenu généré/assisté face au reste.

D'ailleurs, le texte ça ne pèse rien du tout. Ça ne coûtera rien en stockage et c'est pas du tout ça qui limitera le problème.
Je pense même que c'est le meilleur contenu pour attirer le trafic de manière rentable (je parle des sites qui se font de l'argent avec la pub).

Quand à ChatGPT, il est déjà utilisé pour générer des articles complets etc... Et il peut être très facilement détourné pour faire de longs argumentaires de propagande.
Je suis sur qu'on peut détourner l'api ou la web ui pour automatiquement répondre à des commentaires la ou on voudrait semer de la désinformation.

ChatGPT est un outil très dangereux entre de mauvaises mains.

[totozor]

L'essentiel de mon raisonnement est qu'on arrivera peut être à la dystopie qu'elle décrit mais le taux se rééquilibrera parce qu'à quoi bon générer du contenu automatique qui n'apporte pas de clique.
Et ce qui sera moins pertinent sera moins consulté, ramenant ces prioritaire sur un chemin plus raisonnable.

Aujourd'hui tout le monde me vends un monde dominé par l'IA soit comme modèle idéal soit comme apocalypse à fuir à tout prix.
J'ai la naïveté de penser que comme tout outils innovant, l'humain va le surexploiter, se rendre compte qu'il ne vend pas ce qu'il promet et qu'il va se stabiliser à un niveau acceptable.

[Ryu2000]

Quelque part c'est une bonne nouvelle pour la presse Française, l'IA coutera moins cher que les journalistes.
Les journaux s'endetteront un peu moins vite.

[onilink_]

L'essentiel de mon raisonnement est qu'on arrivera peut être à la dystopie qu'elle décrit mais le taux se rééquilibrera parce qu'à quoi bon générer du contenu automatique qui n'apporte pas de clique.
Et ce qui sera moins pertinent sera moins consulté, ramenant ces prioritaire sur un chemin plus raisonnable.

Pour que cela ne génère pas de clics, ça implique qu'en amont on soit capable de discerner le contenu du qualité du reste.
Hors, ces algorithmes de génération de texte excellent dans le domaine de faire croire de quoi ils parlent, et gagnent facilement en crédibilité.

Google risque probablement de ne plus être capable de trier correctement le contenu du web.

Les gens ayant déjà du mal à vérifier certaines fake news grossières, je doute qu'ils seront capable de discerner du texte généré ou non sur un sujet qu'ils ne maîtrisent pas (soit la majorité des sujets). Surtout que s'appuyer sur un moteur de recherche sera de moins en moins efficace, si on suit la logique.

J'espère vraiment que tu as raison. Mais je ne suis pas aussi optimiste.

[Bruno]

Les analystes prédisent que l'IA générative, « surestimée », sera confrontée à un ralentissement imminent en 2024,
l’exploitation des modèles tels que ChatGPT, Google Bard, Claude est très coûteuse

Le cabinet d’analystes CCS Insight a prédit que l’IA générative, une technologie qui a fait l’objet de nombreux gros titres sur ses promesses et ses pièges, devrait être remise en question l’année prochaine. Les coûts élevés, les risques et la complexité impliqués dans cette technologie remplacent le battage médiatique autour de celle-ci. Les modèles d’IA générative tels que ChatGPT d’OpenAI, Google Bard, Claude d’Anthropic et Synthesia s’appuient sur d’énormes quantités de puissance de calcul pour exécuter les modèles mathématiques complexes qui leur permettent de déterminer les réponses à apporter aux demandes des utilisateurs. Les entreprises doivent acquérir des puces de grande puissance pour faire fonctionner les applications.

Précédant la publication du rapport sur les prévisions, Ben Wood, analyste en chef chez CCS Insight, a déclaré : « Nous sommes de fervents défenseurs de l'IA, nous pensons qu'elle aura un impact considérable sur l'économie, sur la société en général et sur la productivité ».« Mais le battage médiatique autour de l'IA générative en 2023 a été tellement important que nous pensons qu'il est exagéré et qu'il y a beaucoup d'obstacles à son deploiement. »

Cependant, Nina Schick, conseillère et conférencière en IA L'IA générative, pense que les outils d'IA comme le ChatGPT d'OpenAI, pourrait complètement réorganiser la façon dont le contenu numérique est développé. « Je pense que nous pourrions atteindre 90 % du contenu en ligne généré par l'IA d'ici 2025, donc cette technologie est exponentielle ». « Je crois que la majorité du contenu numérique va commencer à être produite par l'IA. Vous voyez ChatGPT... mais il y a toute une pléthore d'autres plateformes et applications qui arrivent. »

Les modèles d'IA générative tels que ChatGPT d'OpenAI, Google Bard, Claude d'Anthropic et Synthesia s'appuient sur d'énormes quantités de puissance de calcul pour exécuter les modèles mathématiques complexes qui leur permettent de déterminer les réponses à apporter aux demandes des utilisateurs. Les entreprises doivent acquérir des puces de grande puissance pour faire fonctionner les applications d'IA. Dans le cas de l'IA générative, ce sont souvent des processeurs graphiques avancés, ou GPU, conçus par le géant américain des semi-conducteurs Nvidia que les grandes entreprises et les petits développeurs utilisent pour exécuter leurs charges de travail d'IA.

L’exploitation de ChatGPT est très coûteuse pour OpenAI

Aujourd'hui, de plus en plus d'entreprises, dont Amazon, Google, Alibaba, Meta et, semble-t-il, OpenAI, conçoivent leurs propres puces d'IA pour exécuter leurs programmes d'IA. Le PDG Sam Altman a fait de l'acquisition d'un plus grand nombre de puces d'IA une priorité absolue pour l'entreprise. Il s'est publiquement plaint de la pénurie d'unités de traitement graphique, un marché dominé par Nvidia, qui contrôle plus de 80 % du marché mondial des puces les mieux adaptées à l'exécution d'applications d'IA.

Les efforts déployés pour obtenir davantage de puces sont liés à deux problèmes majeurs identifiés par Altman : la pénurie de processeurs avancés qui alimentent les logiciels de l'OpenAI et les coûts « exorbitants » associés à l'exploitation du matériel nécessaire pour faire fonctionner ses efforts et ses produits. Depuis 2020, OpenAI a développé ses technologies d'intelligence artificielle générative sur un superordinateur massif construit par Microsoft, l'un de ses principaux bailleurs de fonds, qui utilise 10 000 unités de traitement graphique (GPU) de Nvidia.

L'exploitation de ChatGPT est très coûteuse pour l'entreprise. Chaque requête coûte environ 4 cents, selon une analyse de Stacy Rasgon, analyste chez Bernstein. Si les requêtes de ChatGPT atteignent un dixième de l'échelle de recherche de Google, il faudra environ 48,1 milliards de dollars de GPU au départ et environ 16 milliards de dollars de puces par an pour qu'il reste opérationnel.

Il n'est pas certain que l'OpenAI aille de l'avant avec son projet de construction d'une puce personnalisée. Il s'agirait d'une initiative stratégique majeure et d'un investissement lourd qui pourrait s'élever à des centaines de millions de dollars par an, selon des vétérans du secteur. Même si l'OpenAI consacrait des ressources à cette tâche, le succès ne serait pas garanti.

La réglementation européenne sur l'IA se heurte à des obstacles

L’approche de l’UE en matière d’intelligence artificielle est axée sur l’excellence et la confiance, visant à renforcer la recherche et les capacités industrielles tout en garantissant la sécurité et les droits fondamentaux.

La stratégie européenne en matière d’IA vise à faire de l’UE une plaque tournante de classe mondiale pour l’IA et à faire en sorte que l’IA soit centrée sur l’humain et digne de confiance. Un tel objectif se traduit par l’ approche européenne de l’excellence et de la confiance par des règles et des actions concrètes. En avril 2021, la Commission a présenté son train de mesures sur l’IA, notamment :

• sa communication sur la promotion d’une approche européenne de l’IA ;
• un réexamen du plan coordonné en matière d’intelligence artificielle ( avec les États membres de l’UE) ;
• sa proposition de cadre réglementaire sur l’intelligence artificielle et l’ analyse d’impact pertinente.

La Commission vise à faire face aux risques générés par des utilisations spécifiques de l’IA au moyen d’un ensemble de règles complémentaires, proportionnées et flexibles. Ces règles donneront également à l’Europe un rôle de premier plan dans la définition de l’étalon-or mondial.

Ce cadre donne aux développeurs et aux utilisateurs de l’IA la clarté dont ils ont besoin en intervenant uniquement dans les cas que les législations nationales et européennes existantes ne couvrent pas. Le cadre juridique de l’IA propose une approche claire et facile à comprendre, fondée sur quatre niveaux de risque différents: risque inacceptable, risque élevé, risque limité et risque minimal.

Les analystes de CCS Insight prévoient aussi que la réglementation de l'IA dans l'Union européenne, souvent pionnière en matière de législation sur les technologies, se heurtera à des obstacles. L'UE sera toujours la première à introduire une réglementation spécifique pour l'IA - mais celle-ci sera probablement révisée et redessinée « plusieurs fois » en raison de la vitesse des progrès de l'IA, ont-ils déclaré. « La législation n'est pas finalisée avant fin 2024, laissant l'industrie prendre les premières mesures d'autorégulation », a prédit Wood.

L'IA générative a suscité un énorme engouement cette année de la part des passionnés de technologie, des investisseurs en capital-risque et des conseils d'administration, car les gens ont été captivés par sa capacité à produire du nouveau contenu à la manière d'un être humain en réponse à des invites textuelles. Bien qu'elle soit très prometteuse, elle a également suscité des inquiétudes croissantes de la part des pouvoirs publics et du public, qui craignent qu'elle ne soit devenue trop avancée et qu'elle ne risque de priver des gens de leur emploi.

La criminalité liée à l'IA tend à correspondre à des topologies particulières d’organisations criminelles

La recherche et la réglementation en matière d'intelligence artificielle (IA) s'efforcent de trouver un équilibre entre les avantages de l'innovation et les inconvénients et perturbations potentiels. Toutefois, l'une des conséquences involontaires de l'essor récent de la recherche sur l'IA est la réorientation potentielle des technologies de l'IA pour faciliter les actes criminels, ce que les chercheurs Thomas C. King, Nikita Aggarwal, Mariarosaria Taddeo, Luciano Floridi appelent dans un rapport de recherche la criminalité liée à l'IA (AIC).

La criminalité liée à l'IA est théoriquement possible grâce aux expériences publiées d'automatisation de la fraude ciblant les utilisateurs de médias sociaux, ainsi qu'aux démonstrations de manipulation de marchés simulés par l'IA. Cependant, comme la criminalité liée à l'IA est encore un domaine relativement jeune et intrinsèquement interdisciplinaire - allant des études socio-juridiques à la science formelle - il y a peu de certitude quant à ce que l'avenir de la criminalité liée à l'IA pourrait ressembler.

Les menaces plausibles et uniques entourant les AIC peuvent être comprises de manière spécifique ou générale. Les menaces les plus générales représentent ce qui rend la criminalité liée à l'IA possible par rapport aux crimes du passé (c'est-à-dire les possibilités particulières de l'IA) et ce qui pose un problème unique (c'est-à-dire ce qui justifie la conceptualisation de l'AIC comme un phénomène criminel distinct). Comme le montre le tableau ci-dessous, les domaines de la criminalité liée à l'IA peuvent recouper de nombreuses menaces générales.

Carte des menaces spécifiques à un domaine et des menaces transversales

L'année prochaine, CCS Insight prévoit que les personnes qui commettent des fraudes d'identification basées sur l'IA commenceront à être arrêtées. La société affirme que la police procédera à la première arrestation d'une personne qui utilise l'IA pour usurper l'identité de quelqu'un - soit par le biais de la technologie de synthèse vocale, soit par d'autres types de deepfakes - dès 2024.

« Les modèles de génération d'images et de synthèse vocale peuvent être personnalisés pour usurper l'identité d'une cible à l'aide de données publiées sur les médias sociaux, ce qui permet de créer des imitations profondes rentables et réalistes », indique CCS Insight dans sa liste de prédictions.

Un rapport d'Europol sur la menace que représente la grande criminalité et la criminalité organisée met en évidence la manière dont le type de criminalité technologique tend à correspondre à des topologies particulières d'organisations criminelles. La littérature de la criminalité liée à l'IA indique que l'IA peut jouer un rôle dans des organisations criminelles telles que les cartels de la drogue, qui disposent de ressources importantes et sont très organisées.

À l'inverse, l'organisation criminelle ad hoc sur le dark web existe déjà dans le cadre de ce qu'Europol appelle le crime-asa-service. Ces services criminels sont vendus directement entre l'acheteur et le vendeur, potentiellement comme un élément plus petit d'un crime global, que l'IA pourrait alimenter (par exemple, en permettant le piratage de profils) à l'avenir.

Sources : Commission européenne, Springer, CCS Insight

Et vous ?

L'analyse de CCS Insight, qui prédit que l’IA générative devrait être remise en question l’année prochaine est-elle pertinente ?

Partagez-vous l'avis de Nina Schick qui contrairement à CCS Insight annone une croissance de l'IA générative d'ici à 2025 ?

Quels sont selon vous, les avantages et les inconvénients de cette technologie ? Quels sont les risques associés à l’IA générative ?

Comment cette technologie peut-elle être améliorée ?

Voir aussi :

90% du contenu en ligne pourrait être « généré par l'IA d'ici 2025 », selon une conférencière en IA. « Les choses qui nous émerveillent début 2023 vont sembler pittoresques d'ici la fin de l'année »

« L'IA générative n'est qu'une phase. La prochaine phase sera l'IA interactive dans laquelle des machines interactives effectueront des tâches à votre place », affirme un cofondateur de DeepMind

[paul27000]

Nous sommes actuellement dans une bulle il est certain que l'évolution de cette technologie est vouée à ralentir

[Bruno]

Est-ce la fin du Web tel que nous le connaissons ? Les détracteurs de l'IA craignent la destruction d'une précieuse ressource publique,
bien que certains perçoivent ces changements comme des améliorations

Les Chroniqueurs Judith Donath, Bruce Schneier et Christopher Mims alertent sur les menaces croissantes que représente l'intelligence artificielle (IA) pour l'écosystème en ligne. Ils soulignent comment les modèles de langage de grande envergure (LLM) et les éditeurs algorithmiques, notamment incarnés par Google, bouleversent notre accès et notre production de contenu en ligne, menaçant la qualité des informations disponibles. Alors que certains perçoivent ces changements comme des améliorations, ces auteurs mettent en garde contre les conséquences néfastes et les risques de désinformation. David Autor du MIT propose un contrepoids en soulignant le potentiel de l'IA pour élargir l'accès à l'expertise spécialisée et potentiellement reconstruire la classe moyenne. Cependant, il est crucial de reconnaître que l'impact de l'IA dépendra des décisions sociétales et d'une utilisation éthique de cette technologie..

Ces Chroniqueurs soulignent comment les modèles de langage de grande envergure (LLM) et les algorithmes de recherche ont modifié la manière dont nous accédons et produisons du contenu en ligne. L'arrivée des éditeurs algorithmiques, principalement incarnée par Google, a bouleversé la dynamique traditionnelle où les éditeurs humains agissaient en tant que gardiens du contenu. Cette transition a donné lieu à une course sans fin pour s'adapter aux préférences de Google, menant à l'émergence des stratégies d'optimisation des moteurs de recherche (SEO).

Les LLM ajoutent une nouvelle dimension à cette évolution en permettant la génération autonome de contenu, menaçant ainsi la relation traditionnelle entre les auteurs et les lecteurs. Alors que certains voient cela comme une amélioration de l'efficacité de la recherche d'informations, Donath et Schneier mettent en garde contre les conséquences néfastes de cette approche. Ils prédisent l'émergence d'une industrie de sites Web optimisés pour les LLM, conduisant à la disparition des contenus de qualité et sapant la capacité des LLM à apprendre et à évoluer.

Dans un autre registre, Christopher Mims sonne également l'alarme sur la fin imminente du Web tel que nous le connaissons, attribuant cette crise à l'essor de l'IA et de ses implications sur notre interaction en ligne. Mims met en lumière comment l'IA perturbe rapidement nos habitudes de recherche en ligne, remplaçant potentiellement les moteurs de recherche traditionnels par une nouvelle génération de « moteurs de réponse » alimentés par l'IA. Cependant, il souligne également les implications négatives de cette transition, notamment en ce qui concerne la rémunération des créateurs de contenu et la propagation de la désinformation.

Bien que ces analyses mettent en évidence des problèmes cruciaux, elles semblent parfois négliger les bénéfices potentiels de l'IA pour la création et la recherche d'informations en ligne. Une approche plus nuancée pourrait reconnaître les défis tout en explorant les possibilités de collaboration entre l'humain et l'IA pour façonner un avenir en ligne plus équilibré et inclusif.

Il est crucial de prendre en compte ces avertissements tout en recherchant des solutions constructives pour garantir que l'IA soit utilisée de manière éthique et bénéfique dans le paysage en ligne. En fin de compte, une approche équilibrée et axée sur les solutions est essentielle pour naviguer dans les défis complexes de l'IA et de son impact sur l'avenir du Web.

Le web est devenu si intégré à notre vie quotidienne qu'il est facile d'oublier son extraordinaire accomplissement et la richesse qu'il représente. En quelques décennies seulement, une grande partie du savoir humain a été consignée par écrit et mise à la disposition de quiconque dispose d'une connexion internet. Cependant, ce précieux écosystème est maintenant menacé par l'avènement de l'intelligence artificielle (IA). Cette technologie risque de perturber l'équilibre complexe en ligne qui permet aux écrivains, aux artistes et à d'autres créateurs d'atteindre leur public humain.

Pour comprendre l'impact de cette menace, il est essentiel de saisir le rôle crucial de l'édition. Les éditeurs agissent en tant que gardiens, filtrant et mettant en valeur le contenu pour les lecteurs. Les écrivains ajustent leur travail pour espérer être sélectionnés, adaptant leur style et leur contenu en fonction du médium de publication.

À l'origine, Internet promettait de révolutionner ce processus en permettant à chacun de publier librement. Cependant, le flot incessant de médias rendait difficile la découverte de contenu utile, réaffirmant l'importance des fonctions traditionnelles des éditeurs. Les entreprises technologiques ont alors développé des modèles automatisés pour filtrer le contenu, donnant naissance à l'ère de l'éditeur algorithmique. Google est devenu le principal acteur de cette ère, utilisant son algorithme de recherche pour filtrer et mettre en valeur le contenu en ligne. En réponse, l'optimisation des moteurs de recherche (SEO) est devenue une industrie de plusieurs milliards de dollars, visant à répondre aux exigences de Google en matière de classement des sites web dans les résultats de recherche.

Cependant, contrairement aux éditeurs humains, Google ne peut pas lire le contenu. Il se base sur des indicateurs tels que les liens entrants et les mots-clés pour évaluer la pertinence et la qualité des pages indexées. Malheureusement, cette approche est exploitée par des acteurs malveillants qui manipulent le système pour placer du contenu indésirable en haut des résultats de recherche.

Bien que, l'avènement de l'IA et des algorithmes de recherche automatisés soulève des défis majeurs pour l'équilibre et l'intégrité de l'écosystème en ligne, les critiques des « pessimistes de l'IA » soulignent qu'une focalisation excessive sur les scénarios alarmistes impliquant des IA destructrices ou des risques existentiels hypothétiques risque de détourner l'attention des préoccupations actuelles liées à l'IA. Ces préoccupations incluent les impacts environnementaux, la protection de la vie privée, les questions éthiques et les risques de discrimination. En mettant trop l'accent sur ces scénarios extrêmes, il est possible de négliger les défis concrets que pose déjà l'IA à notre société.

L'IA : Un outil pour la reconstruction de la classe moyenne selon un économiste du MIT

Dans son avis, l'économiste du MIT, David Autor, conteste l'idée largement répandue selon laquelle l'intelligence artificielle (IA) serait nécessairement destructive d'emplois. Au contraire, Autor soutient que l'IA pourrait contribuer à la reconstruction de la classe moyenne en élargissant l'accès à des expertises spécialisées. Il met en lumière le fait que la crainte de la diminution des emplois en raison de l'IA est déplacée, car le monde industrialisé est confronté à une pénurie de main-d'œuvre due à des facteurs démographiques.

Autor explique que l'IA ne va pas simplement automatiser des emplois existants, mais plutôt remodeler la valeur et la nature de l'expertise humaine. Il souligne que l'expertise, définie comme les connaissances ou compétences nécessaires pour accomplir une tâche particulière, est la principale source de valeur du travail dans les économies industrialisées. Il donne l'exemple de métiers similaires, tels que contrôleur aérien et brigadier scolaire, soulignant que la rareté de l'expertise explique les écarts de salaires importants.

L'auteur soutient que l'IA offre une opportunité unique d'étendre la pertinence de l'expertise humaine à un plus grand nombre de travailleurs. En permettant aux travailleurs formés d'utiliser l'IA pour la prise de décision, des tâches réservées auparavant à une élite d'experts pourraient être effectuées par un plus grand nombre de personnes. Cela, selon Autor, pourrait contribuer à restaurer le marché du travail composé de travailleurs moyennement qualifiés et de la classe moyenne, qui a été affecté par l'automatisation et la mondialisation.

L'économiste souligne également que l'IA est un outil, et non un substitut de l'expertise. Il insiste sur le fait que l'utilisation judicieuse de l'IA peut aider les travailleurs qualifiés à accomplir des tâches de plus grande valeur, tout en soulignant que l'IA peut également créer de nouvelles capacités humaines et stimuler la demande pour des expertises encore inconnues. Il met en garde contre une vision déterministe de l'avenir basée sur des inévitabilités technologiques, soulignant que la manière dont l'IA sera utilisée dépend des décisions collectives que la société prendra. Il encourage à maîtriser ces outils et à les utiliser pour améliorer le travail et augmenter les opportunités pour les travailleurs.

//
Le cabinet d'analyse CCS Insight prévoit que l'année prochaine marquera un moment de remise en question pour l'intelligence artificielle générative, une technologie ayant suscité beaucoup d'intérêt pour ses promesses et ses défis. Les coûts élevés, les risques et la complexité associés à cette technologie prennent désormais le pas sur l'engouement médiatique qui l'entoure. Des modèles d'IA générative tels que ChatGPT d'OpenAI, Google Bard, Claude d'Anthropic et Synthesia nécessitent d'importantes ressources de calcul pour exécuter les modèles mathématiques complexes qui sous-tendent leurs capacités à répondre aux demandes des utilisateurs, contraignant les entreprises à investir dans des puces de grande puissance pour soutenir ces applications.

Précédant la publication du rapport sur les prévisions, Ben Wood, analyste en chef chez CCS Insight, a souligné : « Nous soutenons fortement l'IA et croyons en son impact significatif sur l'économie, la société et la productivité en général. Cependant, le battage médiatique autour de l'IA générative en 2023 a été tellement intense que nous pensons qu'il est exagéré, avec de nombreux obstacles à son déploiement. »

Cependant, Nina Schick, conseillère et conférencière spécialisée en IA générative, estime que des outils comme ChatGPT d'OpenAI pourraient transformer radicalement la manière dont le contenu numérique est créé. « Je pense que d'ici 2025, nous pourrions voir jusqu'à 90 % du contenu en ligne généré par l'IA, ce qui témoigne de l'essor exponentiel de cette technologie. Je suis convaincue que la majeure partie du contenu numérique sera bientôt produite par des systèmes d'IA. Outre ChatGPT, de nombreuses autres plateformes et applications prometteuses émergent. »

Les détracteurs des « pessimistes de l'IA » avancent que concentrer trop l'attention sur les scénarios catastrophistes d'IA destructrice ou d'autres risques existentiels hypothétiques pourrait détourner l'accent des préoccupations actuelles très réelles liées à l'IA. Parmi ces préoccupations figurent les impacts environnementaux, la protection de la vie privée, les questions éthiques et les risques de discrimination. En se concentrant uniquement sur ces scénarios extrêmes, on risque de négliger les défis tangibles que pose déjà l'IA à notre société.

Pourtant, il est crucial de ne pas sous-estimer les avertissements émis par ceux qui pointent du doigt les dangers potentiels de l'IA. Bien que la technologie puisse offrir des opportunités, elle peut aussi présenter des risques significatifs. Considérer les implications à long terme de l'IA sur l'emploi, l'équité sociale et la structure même de nos sociétés est essentiel pour guider les politiques et les actions futures. L'argument de David Autor du MIT, selon lequel l'IA pourrait élargir l'accès à des expertises spécialisées et potentiellement reconstruire la classe moyenne, offre un contrepoint intéressant à ces inquiétudes. Il met en avant le potentiel de l'IA à remodeler la nature même du travail, en offrant de nouvelles opportunités tout en augmentant la valeur de l'expertise humaine.

Cependant, il est également important de reconnaître que l'impact de l'IA dépendra largement des décisions que nous prendrons en tant que société. Utilisée de manière réfléchie et éthique, l'IA pourrait en effet améliorer nos vies et renforcer nos économies. Mais sans une gestion appropriée, elle pourrait également exacerber les inégalités et les tensions sociales existantes. Ainsi, plutôt que de rejeter catégoriquement les avertissements des "pessimistes de l'IA", il est préférable d'adopter une approche nuancée qui reconnaît à la fois les opportunités et les défis posés par cette technologie émergente. En équilibrant ces perspectives, nous serons mieux préparés à façonner un avenir où l'IA est utilisée de manière responsable pour le bien de tous.

Sources : Christopher Mims' blog post, Judith Donath and Bruce Schneier's blog post

Et vous ?

Quel est votre avis surle sujet ?

Êtes-vous d'accord avec l'idée que le Web tel que nous le connaissons est en train de disparaître ?

Voir aussi :

Le PDG d'OpenAI déclare que les partisans de l'IA se trompent s'ils pensent que la technologie ne sera que bénéfique pour les travailleurs : « certains emplois vont définitivement disparaître »

Les États-Unis nomment un « détracteur de l'IA » pour gérer la sécurité de l'IA dans un Institut américain, Paul Christiano, ancien chercheur d'OpenAI, navigue entre expertise et préoccupations alarmistes

Un économiste du MIT : L'IA pourrait en fait contribuer à la reconstruction de la classe moyenne, elle n'est pas forcément destructrice d'emplois. Et offre la possibilité d'étendre notre expert

[Jules34]

Êtes-vous d'accord avec l'idée que le Web tel que nous le connaissons est en train de disparaître ?

Je ne sais pas trop, maintenant j'ai un avis plus nuancé. En quelque sorte on est un peu ce qu'on mange et la c'est pareil. Je n'ai pas de compte instagram ou autre, j'ai une vieille page facebook ou ma grand mère et ma famille viennent parfois me faire un coucou, je ne regarde que des choses ultra spécialisée sur internet, rédigé par des vrais gens : blog techno, blog juridique et autre joyeuseté. L'IA ne peut pas encore décaper des vieux processeurs et les prendres en photos ultra haute résolution pour la postérité. Du youtube aussi pour voir des trucs plus marrant un peu moins sérieux.

à l'inverse je vois bien que chez d'autre personne, et ça m'énerve profondément, on est dans la consommation de contenu de basse qualité à un rythme effrené.

J'ai eu la discussion avec ma copine, parfois on regarde un film et elle regarde des short ou des story je ne sais pas quoi sur instagram qui s'enchaine les uns après les autres et je trouve ça dangereux, c'est de la cocaine pour le cerveau. J'ai lu un article il y a pas longtemps qui disait que certains commencent même à avoir du mal à se concentrer le TEMPS D'UN FILM ! DES ADULTES !

Alors je parle même pas des dégats sur le cerveau des plus jeunes, qu'on prive littéralement de la chance de développer un muscle plutôt important, le cerveau.

Et la on retombe sur une idée centrale : à qui profite le crime ? Mac do ne fera jamais de grande cuisine, le mainstream non plus. La société de consommation à besoin de l'idiocratie.

[Jade Emy]

La Chine veut exiger des plateformes et des fournisseurs de services en ligne qu'ils apposent un logo visible sur tout le matériel généré par l'IA et qu'ils intègrent des métadonnées dans les fichiers concernés.

La Chine a proposé des lignes directrices exigeant l'étiquetage et l'identification des contenus générés par l'intelligence artificielle (IA), car cette technologie pose de nouveaux défis à la sécurité nationale et à l'intérêt public. Pékin propose ces règles pour lutter contre la désinformation, les deepfakes, les problèmes de droits d'auteur et d'autres risques liés aux médias générés par l'intelligence artificielle.

L'IA générative, comme ChatGPT d'OpenAI, pourrait complètement réorganiser la façon dont le contenu numérique est développé, a déclaré Nina Schick, conseillère et conférencière en IA au début de l'année 2023: "Je pense que nous pourrions atteindre 90 % du contenu en ligne généré par l'IA d'ici 2025, donc cette technologie est exponentielle". "Je crois que la majorité du contenu numérique va commencer à être produite par l'IA. Vous voyez ChatGPT... mais il y a toute une pléthore d'autres plateformes et applications qui arrivent."

En 2024, des rapports confirment que les contenus générés par l'intelligence artificielle (IA) sont de plus en plus présents sur internet. Dans ce contexte, la Chine va exiger l'étiquetage des contenus générés par l'IA, car la technologie pose de nouveaux défis. Le projet de réglementation, qui fait actuellement l'objet d'une consultation publique, prévoit des exigences claires en matière d'étiquetage des contenus générés par l'intelligence artificielle lors de leur production, de leur affichage et de leur distribution.

Les fournisseurs de contenu en ligne seraient tenus d'utiliser des étiquettes visibles - telles que texte, son ou graphique - pour tous les textes, vidéos, sons et scènes virtuelles générés par l'IA. Par ailleurs, des identifiants plus subtils, tels que les filigranes numériques et les étiquettes de métadonnées, seraient également encouragés pour les contenus générés par l'IA.

Le projet stipule également qu'aucune organisation ou personne ne peut malicieusement supprimer, altérer, falsifier ou dissimuler les étiquettes requises ou violer les droits et les intérêts d'autrui par une identification incorrecte du contenu généré par l'IA. Les règles proposées exigent également que les plateformes de contenu en ligne réglementent tout contenu généré par l'IA qu'elles distribuent.

Selon l'organisme de surveillance Cyberspace Administration of China, les lignes directrices s'appliqueront aux organisations industrielles, aux entreprises, aux établissements d'enseignement et de recherche scientifique, aux institutions culturelles publiques et aux institutions professionnelles qui utilisent l'IA pour générer du contenu et fournir des services au public chinois.

Les exigences visent à sauvegarder la sécurité nationale et l'intérêt public et à protéger les droits et les intérêts légitimes des personnes et des organisations, selon le projet, qui a été publié pour une consultation publique d'un mois. Les règles s'appuient sur des cadres juridiques antérieurs, notamment les dispositions administratives relatives à la synthèse approfondie dans les services d'information basés sur l'internet, mises en œuvre en janvier 2023, qui exigent un étiquetage visible des contenus susceptibles de créer de la confusion ou d'induire le public en erreur.

Une autre réglementation importante, les Mesures provisoires pour la gestion des services d'IA générative promulguées en août 2023, a constitué le premier ensemble de règles chinoises ciblant les services d'IA générative. En août de l'année dernière, le Comité technique national de normalisation de la sécurité de l'information a publié un guide décrivant les normes d'étiquetage du contenu pour le texte, les images, l'audio et la vidéo.

Les réglementations proposées constituent la dernière réponse de la Chine au développement rapide de l'IA et aux défis posés par cette technologie, notamment la diffusion de fausses informations et les problèmes de droits d'auteur. Par exemple, la technologie deepfake, qui s'appuie sur l'apprentissage en profondeur de l'IA pour modifier les images, le son et la vidéo, a été exploitée pour créer de fausses photographies et commettre des fraudes.

Zhang Linghan, professeur à l'université chinoise de sciences politiques et de droit, a été cité dans le Quotidien du peuple comme ayant déclaré que "le système d'étiquetage améliorera les capacités de gouvernance des contenus générés par l'IA, réduira la production de fausses informations, empêchera la contamination des futurs ensembles de données d'entraînement et favorisera un écosystème sain de cyberinformation".

De nombreux pays et organisations étudient les moyens de réglementer les contenus générés par l'IA afin d'en garantir l'authenticité, de protéger les droits d'auteur et de maintenir l'ordre social. Parmi les initiatives notables, on peut citer le plan coordonné de l'Union européenne sur l'intelligence artificielle, le Deepfakes Accountability Act des États-Unis et le Online Harms White Paper du gouvernement britannique.

"Cette initiative marque une nouvelle phase de réglementation stricte et de normes de conformité élevées dans le secteur des services d'IA générative en Chine ", a déclaré un avocat basé à Pékin et spécialisé dans les transactions de propriété intellectuelle.

Source : Lignes directrices de la réglementation

Et vous ?

Pensez-vous que cette réglementation est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

La Chine est le pays qui adopte le plus l'IA générative, 83 % des décideurs Chinois interrogés ayant déclaré utiliser l'IA générative, la technologie sur laquelle repose ChatGPT

Les experts sont sceptiques quant à l'efficacité d'une norme mondiale en matière de filigrane visant à étiqueter les contenus générés par l'IA pour empêcher la désinformation et la manipulation

AI Act : les nouvelles règles européennes en matière d'intelligence artificielle entrent en vigueur. L'objectif déclaré est d'encourager le développement et l'adoption de systèmes IA sûrs et fiables en UE